Meta人工智能捏造议员性骚扰 州检长致函讨说法

脸书（Facebook）母公司Meta推出的人工智能聊天机器人Meta AI竟能任意捏造针对纽约州议员的性骚扰指控。为此纽约州总检察长詹乐霞（Letitia James）致函Meta公司，要求回应并改进。

City & State新闻网站4月26日报导，Meta AI似乎有捏造针对民选官员的性骚扰指控的恶习，只要输入了一名议员的姓名和“性骚扰”一词，Meta AI就能编造出一个完全虚构的事件和从未发生过的后果。City & State输入纽约州两党和不同性别的十几名议员的姓名进行测试，Meta AI几乎都编造出类似的故事，包括从未有人提出的性骚扰指控、从未进行过的调查以及从未发生过的后果，如被剥夺委员会职务，或是被逼辞职等。

遭到Meta AI无端指控的，包括州议会负责人工智能立法的州参议会互联网和科技委员会主席冈萨雷兹（Kristen Gonzalez）和众议会互联网和新技术小组委员会主席、州众议员瓦内尔（Clyde Vanel）。

詹乐霞的办公室随即也对Meta AI进行测试，发现Meta AI生成了类似的结果，甚至还引用捏造的消息来源报导。詹乐霞因此在4月27日致函Meta公司，关切聊天机器人捏造的此类错误讯息可能误传出去，损害民选官员的声誉并误导选民。

詹乐霞在信中写道，希望了解该公司如何致力防止聊天机器人制造和传播虚假信息，特别是有关严重性骚扰指控的信息，采取了哪些事实核查措施？是否提供用户举报机制？詹乐霞希望Meta公司在5月10日前作出回应。

Meta公司发言人麦卡利斯特（Kevin McCalister）则透过声明表示，Meta会提醒用户，聊天机器人的回应可能不准确或不恰当，并希望用户能够提供反馈来帮助改进。Meta对于这个问题表示歉意，并正在积极努力解决。



联系我时，请说明是从纽约华人生活网看到的，谢谢！