首秀“翻车”后 谷歌高管警告:AI聊天机器人会产生错觉

作者:来淘车
左侧宽880
左侧宽880

财联社2月12日讯(编辑 刘蕊)在谷歌最新推出的聊天机器人(300024)Bard意外“翻车”并导致股价大跌后,美东时间周六,该公司搜索引擎高管在接受媒体采访时表示,要警惕聊天机器人中人工智能的陷阱。

谷歌高官警告:AI有时会产生错觉

谷歌高级副总裁兼谷歌Search负责人普拉巴卡尔・拉加万(Prabhakar Raghavan)在接受采访时表示:

“我们现在谈论的这种人工智能,有时会导致出现某种我们所谓的错觉(hallucination)……机器会以一种令人信服但完全编造的方式来表达自己。”

他补充说,目前人工智能行业的基本任务之一,就是将这种情况控制在最低限度。

谷歌推出的聊天机器人Bard上周的意外“翻车”,或许正是拉加万所说的“错觉”的最佳体现。

自去年11月以来,初创公司OpenAI开发的人工智能聊天机器人ChatGPT一经推出便爆红全球,并带动一众人工智能概念股大涨。

或许是为了赶上这股热潮,谷歌公司也在上周三举办“Google presents : Live from Paris””大会,以展现其开发的与ChatGPT对标的竞品――人工智能聊天机器人Bard。

然而在展示会上,Bard却意外“翻车”:在回答“如何向9岁小孩介绍詹姆斯・韦伯空间望远镜成果”时,提到该望远镜拍摄到首张地球外行星的照片,但这一成就实际上是智利甚大望远镜在2004年达成的。

由于在演示视频中Bard展现了错误信息,谷歌股价当天直线下跌超7%,创下去年10月26日以来最大日跌幅,谷歌市值也在一夜之间蒸发了1000亿美元。

聊天机器人的通病

事实上,“无法保证信息准确性”可能是当前聊天机器人普遍的弊端,哪怕是备受热捧的ChatGPT也不能幸免。

最近在社交媒体平台上,已经有不少人抱怨ChatGPT有时会犯一些明显的错误,比如无法解决简单的数学方程式或逻辑问题。

就连苹果联合创始人Steve Wozniak也警告称,虽然ChatGPT表现令人印象深刻,但“它也会因为不了解人性而犯下可怕的错误”。

在“翻车”导致市值大跌后,谷歌公司已经声称,仍在对Bard进行用户测试,尚未表明该款应用程序何时上市。

“我们显然感到了紧迫性,但我们也感到了巨大的责任,”拉加万说,“我们当然不想误导公众。”

标签:

左侧宽880
左侧宽880