1k followers 3 articles/week
价值观罗盘:如何让大模型与人类价值观对齐?

(本文阅读时间:21分钟) 编者按:随着人工智能技术的快速发展和能力的不断增强,大模型已经逐步应用于人们的日常生活。但这同时也带来了很多新的潜在风险,进一步凸显了大模型与人类价值观对齐问题的紧迫性。然而,人工智能应该与哪些价值观进行对齐?又该如何对齐?这些问题至今还没有明确的答案。 为了解决这些挑战,微软亚洲研究院提出了价值观罗盘(Value Compass)项目,从交叉学科的角度切入,充分借鉴伦理学和社会学中的理论,以解决对价值观的定义、评测和对齐问题。本文将深度解析大模型价值观的对齐现状,并介绍微软亚洲研究院在这一领域取得的最新研究成果——基于施瓦茨人类基本价值理论的 BaseAlign 对齐算法。 近年来,模型大小和预训练数据量与日俱增,使得大模型呈现出两大特点:尺度定律(scaling...

Fri Apr 12, 2024 10:10
Ada Workshop 2024报名开启,邀妳共赴未来之约!

(本文阅读时间:9分钟) 4月19日,在 Ada Workshop 的第九年,我们将与妳如约相见! 春夏交替之时,微风与阳光共同呼唤着新生力量的生长。怀揣着对科技的无限热爱,我们以 Ada 之名,邀妳共赴这场充满女性力量的聚会。 Ada Workshop 2024 邀请了来计算机领域学术界、产业界各个方向的女性榜样,前来分享属于她们的科研故事、职业发展和个人成长之路。 参与 Ada Workshop 2024,你可以: 领略最前沿的计算机科研,拓展技术视野;聆听优秀女性的成长故事,汲取榜样力量;与杰出前辈面对面交流,解答妳的困惑;了解微软亚洲研究院人才项目,获取优先推荐机会! 心向未来,如果妳渴望挖掘自己内心的力量,如果妳环抱热忱的科技梦想,让我们在暮春维夏之时相见! 更多精彩细节将持续公布,请扫描文末的二维码报名。...

Wed Apr 10, 2024 19:57
守护人类健康:人工智能赋能医疗领域创新应用

(本文阅读时间:15分钟) 编者按:每年的4月7日是世界卫生日,又称世界健康日,旨在引起世界各国人民对卫生、健康工作的关注,提高人们对卫生领域的素质和认识,强调健康对于劳动创造和幸福生活的重要性。那么,如果医疗技术能够更加智能,我们是否能够更早地发现健康隐患,更精准地进行疾病治疗?在世界卫生日到来之际,让我们一起通过微软亚洲研究院(上海)的几个合作研究项目,看看人工智能如何助力我们打造一个更加健康的未来。 常言道,“如果说人生是一场漫长的马拉松,那么健康将是决定跑道长度的关键因素。”健康是幸福生活和社会发展的基石。随着智能化时代的到来,人工智能技术在医疗健康领域的应用也日益广泛,成为了维护和促进人类健康的新工具。无论是辅助疾病的早期检测发现、病情发展预测,还是在个性化的精准医疗,以及推进医学研究和新药研发,人工智能都展现出了其独特的价值和潜力。...

Sun Apr 7, 2024 15:18
MicroCinema与CCEdit:让文生视频兼具创造性与可控性

(本文阅读时间:10分钟) 编者按:随着视频生成技术的飞速进步,我们见证了人工智能技术在视频清晰度、长视频连贯性以及对物理变化理解和镜头转换处理能力方面的显著提升。不过,这些高质量的生成结果是否完全符合我们的需求呢?显然,并非总是如此。由于生成模型的不可预测性,其生成结果常常与用户预期偏离。 在微软亚洲研究院的研究员们看来,创造性与可控性兼备的视频生成模型才是人工智能技术落地应用的关键。基于这一理念,研究员们研发了两项创新的视频生成技术——文生视频模型 MicroCinema 和视频编辑框架 CCEdit,旨在让视频生成更加贴合用户的切身需求。相关论文已被 CVPR 2024 接收。 在这个个性化表达的时代,每个人都是社交媒体内容的创作者。想象一下,拥有一套自己情有独钟的动物表情包——无论是快乐奔跑、好奇探头、悲伤低头,还是悠闲躺卧,每个动作都栩栩如生,同时还能适应各种场景,在古代与现代、虚拟与现实中自由穿梭——这将让你的社交互动更加生动、有趣,也更能展现自我。微软亚洲研究院的...

Fri Mar 29, 2024 01:58
高性能计算与深度学习结合;提升云人工智能基础设施可靠性;基于心理测量学的通用型人工智能评估;模仿人脑思维模式的视觉语言规划框架

(本文阅读时间:12分钟) 编者按:欢迎阅读“科研上新”栏目!“科研上新”汇聚了微软亚洲研究院最新的创新成果与科研动态。在这里,你可以快速浏览研究院的亮点资讯,保持对前沿领域的敏锐嗅觉,同时也能找到先进实用的开源工具。 「 本期内容速览 」01ConvStencil:突破高性能计算与人工智能的“软硬”边界(PPoPP 2024 最佳论文)02Anubis:通过主动验证提升云人工智能基础设施的可靠性03基于心理测量学的通用型人工智能评估方法04VLP:类似于人类左右脑思维模式视觉语言规划框架 ConvStencil:突破高性能计算与人工智能的“软硬”边界 本文荣获 PPoPP 2024 唯一最佳论文奖 论文链接:https://dl.acm.org/doi/10.1145/3627535.3638476项目链接:https://github.com/microsoft/ConvStencil...

Thu Mar 21, 2024 14:36
实习派 | 马睿淳:耶鲁博士生的实习故事,与学术偶像一起踏浪前行

(本文阅读时间:9分钟) 想与自己的“学术偶像”一起做科研,这是耶鲁大学博士生马睿淳来到微软亚洲研究院实习的初衷。“邱老师是我们领域很知名的学者,了解到邱老师加入了微软亚洲研究院(上海),就想规划较长的时间来实习。”马睿淳说。 9个月的实习中,马睿淳在微软亚洲研究院副院长邱锂力博士的指导下,持续探索超表面研究这一前沿领域。面对挑战是科研的常态,但马睿淳总能迎难而上,出色地解决各种困难。Mentor 邱锂力博士评价睿淳为她接触过的最优秀的实习生之一,“快速融入新团队,并在短时间内展现出极强的研究能力和领导力。” 最终,马睿淳的实习成果丰硕。以马睿淳作为第一作者,由邱锂力博士、研究员潘昊、实习生郑师程等人合作完成的“利用低成本 metasurface 优化毫米波覆盖”项目论文已被 MobiCom...

Thu Mar 21, 2024 14:36

Build your own newsfeed

Ready to give it a go?
Start a 14-day trial, no credit card required.

Create account