OpenAI CEO要求监管AI,还提出三点方案,美议员:没见过这么主动的
2025-03-31 17:07:59 小编:六六导航站
Sam Altman,作为OpenAI的CEO你赚了很多钱吧?
就在昨晚,这段对话发生在美国华盛顿一场听证会。
Sam Altman与IBM副总裁Christina Montgomery、纽约大学名誉教授Gary Marcus一同出席作证。
讨论的核心问题在于,ChatGPT与其他AI技术的风险。
与过去的其他科技公司高管不同,Altman表示非常欢迎对AI进行监管。
议员们的态度也与过去大不相同,减少了批评和刁难,像是真的在征求三位证人的意见。
听证会开始,参议员Richard Blumenthal作开场白,阐述了AI造成虚假信息扩散、社会不平等加剧等潜在风险。
但坐在**台的Blumenthal,嘴却一直紧闭。
这是一段录音,文本由ChatGPT生成,声音由AI软件合成,听起来与本人几乎一致。
有围观网友表示:议员们这次居然认真准备了,这很难得。
录音结束后,真正的Blumenthal补充道,虽然ChatGPT这次表达地和他本人观点一致,但同样的技术也可以轻松合成虚假消息,“那将非常可怕”。
Altman在证词中也表示,AI可能被用于操纵舆论也是他最担心的问题之一,特别是明年将举行大选。
在场的其他参议员还指出,由少数科技公司主导是人工智能市场的另一大风险,OpenIAI与微软合作便是一例。
对于像OpenAI这样的AI公司应如何被监管,Altman准备了三条方案:
成立一个新的部门,负责为AI大模型颁发许可,并拥有撤销许可的权力。为AI模型创建一套安全标准,对危险性做评估,包括它们是否能够“自我复制”、“逃出实验室自己行动”。要求独立专家对模型的各种指标做独立审计。华盛顿邮报认为,方案中明显缺少对训练数据的披露,而这也是一同出席的Marcus一直呼吁的。
对于OpenAI是否会进入广告业务,Altman表示不排除这种可能性。
有议员担心基于广告的商业模式会让AI重蹈社交媒体的覆辙,发展出操纵用户的产品和令人上瘾的算法。
一同作证的IBM副总裁Montgomery认为,AI发展不能像Facebook的口号那样“迅速行动、打破常规(move fast and break things)”,但也不必对创新猛踩刹车。
Altman与Montgomery都反对暂停人工智能开发。
对于AI造成的失业问题,两人观点也一致,认为AI会减少一些工作岗位,但也会创造新的。
Marcus则一如既往对“OpenAI声称为了造福全人类,但与微软形成商业联盟”、“AI生成虚假信息”、“ChatGPT的训练数据不透明”等问题做出批评。
他形容AI为“像一只在瓷器店的公牛一样,强大、鲁莽且难以控制”。
Marcus提议成立一个像欧洲核子研究中心CERN一样的国际合作组织,专门研究AI安全问题。
这不是Altman第一次因AI问题来到华盛顿。
本月初他与其他科技公司CEO参加了白宫关于AI发展的一场讨论,本周一他还与60名议员共进晚餐并展示了ChatGPT的各种用法。
据在场的众议员Ro Khanna透露,Altman在晚宴上强调“AI是一种工具,而不是一种生物”,“能帮人完成具体任务,而不是整个工作”。
这次公开听证会结束后,Altman继续与议会AI核心小组举行闭门会议。
美国司法委员会知识产权部门也表示计划在未来两个月内举行多场听证会,讨论AI对版权和专利法带来的影响。
完整视频回放:https://www.youtube.com/watch?v=TO0J2Yw7usM
参考链接:[1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/[2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html
“
- 猜你喜欢
-
MusicTGA-HR提示指令
-
RappingAI提示指令
-
Boomy提示指令
-
TwoShot提示指令
-
Weet提示指令
-
Muzaic Studio提示指令
-
-
HookGen提示指令
-
DadaBots提示指令
- 相关AI应用
-
Playlistable提示指令
-
Riffusion提示指令
-
WZRD提示指令
-
-
Cyanite.ai提示指令
-
Piano Genie提示指令
-
Synthesizer V提示指令
-
Cosonify提示指令
-
Musico提示指令
- 推荐AI教程资讯
- OpenAI CEO要求监管AI,还提出三点方案,美议员:没见过这么主动的
- Agent Laboratory – AMD 联合约翰·霍普金斯大学推出的自主科研 Agent
- 新言意码 – 前月之暗面明超平创立的 AI Coding 项目
- PPTAgent – 中科院推出的自动生成高质量演示文稿框架
- 谷歌发现大模型「领悟」现象!训练久了突然不再死记硬背,多么痛的领悟
- HoloDrive – 商汤联合上海AI Lab等机构推出的2D-3D多模态街道场景生成框架
- Perception-as-Control – 阿里通义实验室推出的图像动画框架
- 掘力计划第 20 期:Flutter 混合开发的混乱之治
- Motion Dreamer – 香港科技大学推出的运动合理视频生成框架
- Sky-T1 – NovaSky 开源的推理 AI 模型,可从零开始复现该模型