Sep 9
人机回环,不该只是一次弹窗
一声 “y”,回答不了一个已经改变的世界 几乎每一场智能体演示的结尾,都是同一个画面:控制台光标跳动,弹出一行字,“Approve this action? (y/n)"。工程师敲下一个 “y”,回车,掌声响起,屏幕上的任务清单一项项被划掉。观众记住了 “自主智能”,记住了 “人工智能替人干活”,却很少有人追问:那个敲下 “y” 的人,那一刻到底知不知道自己在批准什么?
最近技术社区的讨论正在把这个问题重新摆上桌。一位拥有网络安全与医疗背景的 AI 从业者,把这段演示代码称为 “人机回环的谎言”:它假设审批人永远在线,问题永远新鲜,世界永远静止。而真实的生产环境里,审批人可能正飞在万米高空,答复要三天后才落地。等待期间,执行任 …
阅读更多
阅读更多