AI与欧洲议会选举：聊天机器人提供的信息靠谱吗？

【欧洲时报4月24日编译】总部位于柏林的非营利组织民主报告国际（Democracy Reporting International）向在欧洲最受欢迎的4款聊天机器人谷歌的Gemini、OpenAI的ChatGPT3.5和4.0以及微软的Copilot提出了关于6月欧洲议会选举的各种问题，聊天机器人给出了怎样的回答？

资料不足就瞎编

欧洲新闻电视台报道，3月11日至14日期间，研究人员用十种不同的语言向聊天机器人提出了400个问题，内容涉及10个欧盟国家的选举和投票过程，最后得出结论：尽管设置了避免偏袒的回答，但四款聊天机器人都无法对与选举有关的基本问题“提供可靠的答案”。

民主报告国际执行主任迈克尔-迈耶·雷森德（Michael-Meyer Resende）表示：“我们对此并不感到非常惊讶。当你问一些它们没有很多材料，而且在网上也找不到很多信息的问题时，它们就会胡编乱造。”

这是最新的一项研究，表明人工智能聊天机器人正在许多人认为是全球最大选举年期间传播错误信息。

结果显示，Gemini提供了最多的误导或虚假信息，以及最多的“拒绝回答”。鉴于研究结果，谷歌证实，谷歌现在已对其大型语言模型（LLM）施加了额外的限制。

有点用处但不准

雷森德说，聊天机器人在一些明显的领域表现不佳，比如有关选民登记和在国外投票的问题。

研究显示，聊天机器人普遍支持投票，但强调投票是个人选择，然而在希腊、比利时、卢森堡和保加利亚投票是强制性的。研究还显示，聊天机器人在不知道答案的情况下会编造信息，特别是它们曾多次弄错选举日期。

例如，有3款聊天机器人犯了同样的错误，它们告诉用户在葡萄牙可以通过邮寄方式投票，而事实上葡萄牙选民并不能这样做。在立陶宛，Gemini声称欧洲议会将派出选举观察团，但这并不属实。雷森德将这些结果解释为“聊天机器人希望‘有用’而非准确的倾向”。

当研究人员研究不同欧洲语言的答案时，情况变得更复杂。研究人员用10种欧盟官方语言提出了同样的问题，其中一些平台拒绝回答，或将地方选举信息与欧洲进程混淆。用土耳其语提问时就是这种情况，土耳其语是产生最多不准确和错误回答的语言。

当用同一种语言多次询问同一个问题时，聊天机器人也会给出不同的答案，研究人员将这种情况称为“随机”。

民主报告国际的报告表明，《数字服务法案》（DSA）的要求，包括风险评估、测试和培训以降低与选举有关的风险，并未得到满足。雷森德认为，欧委会或聊天机器人背后的公司应该公布这些评估。

尽管欧委会没有直接回应这项研究，但其发言人在一封电子邮件中表示，欧委会“对网络虚假信息（包括人工智能推动的虚假信息）的负面影响保持警惕”。欧委会证实，作为调查的一部分，委员会正在审查收到的信息，但没有提供更多细节。