Margaret Atwood质疑生成式人工智能：垃圾数据毕竟产出“垃圾谜底”

阿特伍表示，Claude 在答复问题时显然是“胡编乱造”。她指出，这并不是因为体系“有意撒谎”，而是因为它只是一种基于海量文本练习的大年夜说话模型，缺乏人类那样的真实懂得才能。 按照她的描述，Claude似乎从大年夜量电视评论和影评中“掠夺和拼接”信息，但评论平日不会直接泄漏剧情终局，这导致模型在有关《布朗神父》的关键情节上被练习语料“误导”。

在批驳 AI 对象本身之余，阿特伍也对陷溺依附这类技巧的人表达了不满。 她将这部分应用者称为“机会主义者”，认为他们试图借助 AI 走“捷径”，以一种难以察觉的方法进行“作弊”，而不是投入须要的时光和精力亲自查证或创作内容。 在她看来，技巧本身并不克不及替代人类的断定和义务，假如把内容临盆完全交给未经核实的机械，风险毕竟会由人类本身承担。

在谈到生成式 AI 的根本问题时，阿特伍用一句简单的技巧鄙谚概括了本身的立场：“垃圾进，垃圾出”。 她认为，假如练习数据本身就存在缺点，或是由未经筛选的收集内容构成，那么再复杂的模型构造和再宏大年夜的参数范围，也无法从根本上解决缺点与成见问题。 对她而言，这不仅是关于技巧靠得住性的疑问，也是对创造力、原创性和人类写作者角色的更广泛反思。

阿特伍特别强调，当前的大年夜说话模型严重依附已宣布的收集材料和被抓取的文本数据，这些信息既可能过时，也可能存在误差甚至缺点。 她是以提示，无论是通俗用户照样将其用于贸易目标的机构，都不该把机械生成的成果视为“最终威望”，而必须进行人工复核和事实核查。 她指出，很多企业正在将 AI 融入营业流程，但即便出于进步效力的推敲，也必须接收一个实际：这些体系会犯错，输出质量很大年夜程度上取决于输入数据的可托度和完全性。

在这场对话的尾声，阿特伍再次提示听众，机械并不是机械人一样的完美履行者，更不是有道德和经验的人类，而只是一套读取和重组文本的对象。 她主意，在创作、批驳和常识临盆范畴，人们须要保持当心和责随便率性识，以防在技巧承诺的“便利”背后，就义了对真实和精确的寻求。