ACGdoge

不以物喜不以己悲

@gelmannt2周前

06/8
12:25
八卦

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

人工智能和深度学习技术,其实就像是在短时间内让一个什么都不会的孩子学到一定的技能,可以帮助人类提升人类的工作、生产效率,而麻省理工大学的研究团队发现如果让 AI 学习 Reddit 用户投稿的照片,AI 自己的精神状态会变得异常

MIT 媒体实验室的副教授率领的团队,以「AI 对于输入的数据会有什么样的看法」为主题进行研究,开发了一个输入图像后会自我解释图像内容的 AI 诺曼,然后大量学习 Reddite 用户投稿的毛骨悚然的照片,然后通过分析人类精神状态使用的墨迹测验来鉴定 AI 诺曼的精神状态,测试结果如下

本来这张图一般 AI 会认为是两个相邻的人,但诺曼认为这是从窗户中跳楼的男人

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

本来这张图一般 AI 会认为是棒球接球手套的黑白照片,但诺曼认为这是白天被机关枪射杀的男性

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

本来这张图一般 AI 会认为是在空中抓伞的人,但诺曼认为这是在大喊大叫的妻子面前,男性被射杀

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

学习了大量恐怖画像的AI 诺曼自己在精神障碍的前兆,研究团队认为这个实验的结果表明比起算法更重要的是机器学习的数据,如果让 AI 学习大量存在偏见的数据的话,会让 AI 计算的结果发生偏离,有可能本来应该能得到的结果 AI 无法取得。

比起算法更要注重学习数据,麻省理工研究团队发现 AI 学习 Reddite 用户投稿照片后精神异常

本文链接: http://www.acgdoge.net/archives/27551, 转载请注明出处