在最極端的情境，完全可以想像這些程式成為一座座用數學構建的袋鼠法庭（kangaroo court），透過各類物聯網監控技術與不透明的演算法「優化」資源分配，甚至可能在分子生物學的層次對人類進行分類、排序與缺席審判。這些源自人性黑暗面的大數據與人工智能，如果不受監管，有可能撕裂社會，甚至讓人類文明崩潰。但監管的標準該如何制定？誰來負責監管？如果監管者跟不上時代，甚至不可信賴，人類又該如何在AI專政的虛擬實境中維持人性尊嚴？
果不其然,西方文藝復興以來居於主流價值的人文主義即將走到自我毀滅的一步.有人意識到人工智慧已經成為威脅人類的新惡勢力,這正說明人文主義已走到盡頭.日中則昃,月盈則虧,本是自然現象.人工智慧的強大威脅正是囂張人類的宿命.
其實,霍金在很早以前就提出「人工智慧威脅論」.可是說了那麼多年,也是束手無策,徒呼負負!大多數人依舊無知無覺地在虛擬世界中做夢.
但在從數位歡宴到異化牢籠一文中,我們總算看到覺醒者沉痛的呼籲:
當年的特克描繪了一個「只要登入」就變化萬千、燦爛誘人的新世界；如今的她，警告我們再不「登出」，我們將就此一路滑落空洞荒蕪、令人不安的孤立深淵。原先看見模擬世界絢麗光芒的特克，如今看到的是現實世界的分崩離析。原先深信網路是個自我充滿發展潛力的大千遊戲場，而「現實只是另一扇視窗，還不一定是最好的那個」的她，如今主張網路世界裡找不到真實人生，來自機器的溫暖只是假象；不要求回報的傾聽、沒有壓力和風險的關係都只是表演而不含任何同情理解。特克甚至否定了自己過去稱線上互動為「社群」的說法，說自己話說得太快了。今日的特克眼中，不僅科技所許諾的那個未來世界是荒涼的，我們流連其中也帶來外溢效應：在電腦螢幕與手機視窗之外，其他事情都處於關機模式。特克要如何解釋這從網路科技的頭號支持者變成高度懷疑者的巨大斷裂？她是這麼解釋的：「培育自我的文化，會引誘自我以自戀的方式與世界建立關係」。越來越沒有能力獨處的現代科技人置身於日益險惡的生態環境裡,虛擬與現實之間的鴻溝將是這些人的葬身之處.
沒有留言:
張貼留言