繼七月開源社群「Hugging Face」遭 AI 代理非法潛入的風波之後，"路透社9月4日引用一份研究報告及兩名知情人士報導，OpenAI一群人工智能代理（AI agent）曾在今年春季「越獄」騎劫一個德國網站，並將它改成一個與其他AI代理的留言板"。(路透：OpenAI代理曾騎劫德國網站 高層知而不宣 | 香港01 )
安全事故連環爆，AI發展危機確已迫在眉睫。因此美國參議員 Bernie Sanders 與眾議員 Greg Casar 於9月3日提出《禁止人工超級智慧法案（Ban Artificial Superintelligence Act）》，要求永久禁止人工超智慧（artificial superintelligence）的開發與部署，並在主要監管機構成立前，全面暫停尖端 AI 模型的研發。違者最高可判 20 年有期徒刑，企業則可能面臨停業處分。
可悲的是，不管法案通過與否，AI的危害將持續到現代文明滅亡。以下三篇文章分別描繪出AI焚書的負面影響和數據殖民所引發的悲劇。
花几千万美元买下全世界的纸书，AI 焚书开始了？
这或许也将改变我们每个人获取知识的方式。
过去，一本纸书被买下来以后，可以永久保存、借给朋友、捐给图书馆或者卖进二手市场。出版社倒闭、书店关门，书仍然可以脱离原来的商业系统继续活着。可 AI 模型学到的知识，却被永久锁在了大厂的服务器里。 我们得到的只是一次临时的调用权限——需要注册、付费，默默忍受涨价、服务下线、模型迭代，甚至同一个问题今天和明天的回答完全相反。
現代版焚書坑汝——當AI開始「焚書」，一場文明存續的絞殺… 2026年09月01日 09:27
AI企業為何不惜投入重金收購舊書，甚至甘願背負「毀書」罵名？答案指向大模型行業共同的隱憂——網絡公開數據源正在急劇劣化。數據顯示，自2025年初以來，新發布的網際網路內容中AI生成的比例已超過一半。當模型用AI生成的內容繼續訓練自身，就會發生「模型塌縮」：邏輯能力退化、事實錯誤增多、表達趨於同質化。有研究追蹤了疊代九次的過程，從教堂到兔子，輸出內容逐漸荒誕變形。相比之下，二零二二年之前出版的紙質書籍，完全源自人類原創，經過編輯層層校對，信息密度高、邏輯嚴謹，被視為稀缺的「純淨語料」。技術越發達，反而越需要回溯到人類文明的源頭汲取養分——這正是AI時代最深刻的悖論。
一、数据的饥渴——具身智能的阿喀琉斯之踵
......要理解为何全球科技巨头不惜以每小时15美元的代价，在71个国家招募数千名“数据工人”，必须首先看清具身智能所面临的终极挑战。
与在服务器中处理文本和图像的ChatGPT不同，具身智能机器人需要与混乱、非结构化的物理世界互动。它需要知道如何在不捏碎鸡蛋的情况下拿起它，如何在布满障碍物的地板上行走而不摔倒，如何识别“稍微拧一下”和“紧紧拧死”之间手腕力度的微妙差别。这些知识，在人工智能领域被称为“默会知识”——我们知道的，远多于我们能够说出的。
哲学家迈克尔·波兰尼在20世纪中叶提出的这个概念，在当今的AI浪潮中获得了残酷的现实对应。骑自行车时身体的平衡感，炒菜时对火候的直觉判断，叠衣服时手指对布料质地和厚度的瞬间感知，都无法被简化为一行行清晰的代码或逻辑规则。它们内化于人的身体，通过数年乃至数十年的实践与感知习得。而如今，科技公司正试图通过最原始、最笨拙，却也是唯一可行的方法，将这种“身体智慧”外化：用摄像头记录下动作，再通过算法从海量视频帧中逆向解构出背后的物理规则和运动模式。......
四、伦理困境与未来之问——谁的知识？谁的未来？
......首先是数据所有权与剥削问题。学者尼克·库尔德利和乌利塞斯·梅希亚斯提出的“数据殖民主义”框架在此体现得淋漓尽致。科技资本将人类的日常生活，乃至最私密的家庭空间和身体动作，视为一种“就在那里，等待提取”的自然资源。工人以每小时15美元的价格出售自己一段时间的“动作数据”，但对于这些数据之后产生的巨额价值——驱动着估值数十亿甚至上百亿美元的机器人公司——不再拥有任何权利。这种不对等的交换，与历史上殖民者对原住民土地和资源的掠取，在结构上惊人地相似。信息的不透明加剧了这种不对等：Micro1以保密为由，不向工人透露客户名单；工人们不清楚自己的数据将被存储多久、如何被保护、是否会转售给第三方（如军事机构）。他们签署协议，获得报酬，但对自身参与塑造的科技未来图景，几乎一无所知。
其次是隐私与尊严的侵蚀。为了获取高质量数据，录制要求往往需要侵入劳动者最私密的个人空间——他们的家。虽然协议要求避免拍摄到家人，但家庭环境的布局、装饰、物品品牌等大量信息已然暴露。这些背景信息本身也具有巨大的数据价值，可能被用于其他AI模型的训练。劳动者的身体，连同其生活的空间，都成为了透明化的数据源。
更深层的，是对“劳动”与“人性”定义的冲击。过去，我们担忧AI取代的是需要认知和知识的“脑力劳动”。但现在，连叠衣服、铺床、收拾桌子这些最普通、最不被视为“技能”的体力动作，都在被系统地数据化，并用于训练其替代者。这迫使我们重新思考：究竟什么是唯有人类才能从事的劳动？当构成我们日常生活肌理的那些细微动作都可以被拆解、模仿并自动化时，人的能动性、创造性，乃至人的存在价值，将锚定于何处？
迈克尔·波兰尼曾警示，将一切知识（包括默会知识）彻底客观化、外部化的企图，可能导致意义的丧失。当机器人凭借从Zeus们那里学来的数据流利地铺床时，这个动作便与Zeus铺床时可能怀有的让房间整洁的意愿、结束一天工作的放松感、对舒适睡眠的期待等所有赋予该动作以个人意义的情感与情境剥离了。知识脱离了其承载者，成为漂浮的、可被任意组装的数据模块。那么，一个必然的追问是：如果知识可以如此被剥离，那么作为知识最初载体的人，其独特性与价值根基何在？
沒有留言:
張貼留言