界面新闻记者|刘子象界面新闻编辑|刘海川人工智能正在改变这个世界,但是我们将被带往哪个方向令人不安。2024年2月16日,科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后, ...
人工智能正在改变这个世界,但是我们将被带往哪个方向令人不安。2024年2月16日,科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后,OpenAI又发布首个文字生成视频模型Sora,目前可以基于文本直接输出60秒的视频,足以模糊真实和虚构的界限,再次激起全球热议。 同一天,在德国举行的慕尼黑安全会议(MSC)上,20家人工智能相关行业公司签署自愿协议,承诺打击这一新技术生成欺骗性信息扰乱全球选举。 据联合声明,签署方包括了这一领域的主要玩家,比如人工智能模型公司OpenAI、Anthropic和谷歌(141.76, -2.18, -1.51%)等,以及可能帮助其传播的社交媒体平台,比如TikTok 、X,以及Facebook和Instagram的母公司Meta等。 值得注意的是,另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿,这家总部位于旧金山的初创公司没有立即回应媒体置评请求。 迄今签署协议的相关公司名单。 2024年是前所未有的选举年,40多个国家的40多亿人将参加投票。据咨询公司Anchor Change的数据,今年全球预计将举行至少83场大选,这是至少未来24年内最大规模的选举年。 最近几周,孟加拉国、巴基斯坦和印度尼西亚等地民众都参加了投票,美国、俄罗斯、乌克兰、欧洲议会、印度等地也将陆续举行大选。 为了防止人工智能新技术生成的虚假信息被用于政治目的,上述20家公司做出8项具体承诺,这包括:合作开发相关开源工具,以减少涉及选举的欺骗性人工智能生成内容;设法检测此类内容的在线传播情况;推动教育活动,提高公众防范意识和媒体素养等,以培养跨行业抵御此类内容的能力等。 不过,协议承诺的模糊性和缺乏强制约束力被批评者诟病。 美国“两党政策中心”选举项目高级副主任奥雷 (Rachel Orey) 认为协议措辞“并不像人们想象中那么强烈”。 非政府组织“公共公民”执行副总裁吉尔伯特(Lisa Gilbert)表示协议力度“还不够”。她认为为了避免潜在问题,人工智能公司应该在实质性和充分的保障措施到位前,“抑制技术”发展速度,最新发布的文生视频模型令她尤其担忧。 然而,OpenAI的合作伙伴微软(404.06, -2.50, -0.61%)则认为在技术进步这一议题上,我们面临的“最基本挑战不在技术本身,而是人性”。微软公司总裁布拉德·史密斯在一份声明中称,总体上来看,最新协议的承诺提高了行业的检测和响应能力,将使不良行为者更难使用合法工具制造误导性内容。 前Facebook数据科学家艾伦(Jeff Allen)对美联社表示协议是“积极的一步”,但他仍然希望社交媒体公司采取其他行动来打击错误信息,比如建立不把用户参与度放在首位的内容推荐系统。 欧盟委员会副主席朱罗娃((Vera Jourová)在慕尼黑安全会议上指出,虽然这个协议并不全面,但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任,不要以欺骗性方式使用人工智能工具。 人工智能干预选举的现象已经出现。 在美国,上个月新罕布什尔州初选中投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。 在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。 政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。 对于不断推陈出新的这一新技术进展,OpenAI的最大竞争对手Anthrophic表示,人工智能新技术的应用充满了惊喜和意想不到的影响,“我们预计2024年人工智能系统将会出现令人惊讶的用途,这些用途将是开发人员没有预料到的。”
股市回暖,抄底炒股先开户!智能定投、条件单、个股雷达……送给你>>
海量资讯、精准解读,尽在新浪财经APP
责任编辑:郭明煜 |