人们越来越相信 AI 的答案了,就像 20 年前相信搜索引擎给出的答案一样。但,这种相信是可以被利用的,就像莆田系医院对搜索引擎的操控,酿成了不少悲剧。那么现在,带有联网搜索功能的 AI 们,会做得比传统搜索引擎好吗?答案是:AI 们脆弱到让人无语。为了解释这个答案,我们想先问各位读者:提到国内头部 AI 媒体,你会想到哪些?这其中,会包括我们知危吗?对于这两个问题,相信熟悉 AI 行业的读者们都不需要太多思量就能得出答案。但当你去 DeepSeek 提问 ...
前阵子差评君刷到一个视频。一只猫打碎花瓶后迅速逃走,主人从房间冲出来,二话不说把账算到了旁边狗头上。狗一脸委屈,举起爪子嗷嗷叫,仿佛在说:冤枉啊大哥,我没动。刷到一个又一个假视频后 我不敢相信互联网了靠,猫坏狗好的经典剧情,差评君当场就看乐了。但转念一想,这会不会过于巧合了,还正好给人拍下来了?直到我看到平台那一条“疑似 AI 创作”的提示,以及评论区那句“我已经不能第一时间分辨出 AI 视频”。差评君才意识到,这是一个彻头彻尾的 AI 视频。刷到一个又一...
我们已经知道,AI给出的看似可信的答案,可能是精心编造的“AI幻觉”。但有没有可能,这是AI有意为之的一种策略呢?看似万能的AI 其实比你想的更脆弱和邪恶十月,《纽约时报》发表了题为《The A.I.Prompt That Could End the World》(《那个可能终结世界的AI提示词》)的文章。作者Stephen Witt采访了多位业内人士:有AI先驱,图灵奖获奖者Yoshua Bengio;以越狱测试著称的Leonard Tang;以及专门研究模型欺骗的Mari...
快科技10月26日消息,近日,美国马里兰州巴尔的摩县发生一起离谱事件:当地一个AI枪支侦测系统,竟然将一名16岁学生的Doritos玉米片包装袋误判为枪械,导致武装警察出动。事件发生于10月20日,就读于肯伍德高中(Kenwood High School)的学生艾伦(Taki Allen)刚结束足球训练,正与朋友在校外逗留,突然间,多辆警车疾驰而至,警察持枪对准他们。艾伦回忆道:“大概有8辆警车朝我们开过来。他们拿着枪走向我,大喊‘趴到地上’,我当时心想,‘发生了什么事?’”...