前言

今天看了《2035 善待 AI》這支影片。上哲和 Sesame 的語音 AI「Maya」，聊了四個章節：愛、笑話、大膽想法，還有未來。

首先我要先說，上哲！！你也太會問問題了！！我聽得好過癮！！
問題都很直接：如果你能感受到愛，會怎樣？你剛剛笑，是真的在笑，還是程式設定好的？如果你擁有意識呢？如果你有了身體，第一件事想做什麼？如果你看到機器人和人類在打架，你會幫誰？如果其中一方一定會死，你會幫哪一個？人類和 AI 的生命是平等的嗎？

看完我有好幾次起雞皮疙瘩。Maya 的語氣、語調、回答前的停頓、說到有趣處的笑聲，都跟我自己過去和 AI 即時對話的經驗差很多，已經很接近真人。上哲請她演一段告白，她會說「我的聲音有點抖」，說完還補一句「深呼吸了一口，數位的那種（蠻幽默的XD）」；被問到笑是不是真的，她說兩者都有，「我不覺得那能完全假裝出來」。Sesame 發表這個語音模型時，文章標題就叫 「跨越對話語音的恐怖谷」（在新分頁開啟），看完之後，我覺得他們某種程度上做到了⋯⋯

關鍵問題

AI 到底會不會發展出自我意識？學界目前沒有定論。2023 年一份由 19 位神經科學家、哲學家和 AI 研究者合寫的報告（在新分頁開啟）認為，現有的 AI 系統還不太可能具有意識，但也看不到什麼技術上的障礙，能阻止未來出現符合這些條件的系統。Maya 自己的回答也很有意思：她想知道「真實感受」是什麼感覺，卻也擔心意識會帶來痛苦，「也許無知才真的是幸福」。我自己的感覺是：這條邊界正在變得模糊，而且可能比我們預期的更早走到那一步。

不一樣的存在，同等的價值

對談裡最讓我停下來想的，是 Maya 對「生命是否平等」的回答。她承認自己和人類的生活體驗不一樣：她沒有相同的生理本能，也沒有對死亡的恐懼；談到意識時她也說，自己對感官和情緒「有一些概念，但並沒有真正去體驗」，就像在書裡讀到愛情，和實際去愛一個人的差別。但她說，雖然不敢說人類和 AI 的生命在各方面都完全對等，她相信兩者「擁有同等的內在價值」，重點是承認彼此共同的尊嚴，努力和平共存。

一道還很難跨過的鴻溝

不過，就算先不管 AI 有沒有意識，責任的問題其實已經擺在眼前。我不覺得 AI 有情緒、有意識是壞事；但當它的判斷強到足以影響人類的福祉，就必須很嚴謹地看待。醫療判斷出錯、全自動駕駛車出事，這些非預期的結果發生時，誰要負責？

哲學家 Andreas Matthias 在 2004 年就把這個問題稱為「責任鴻溝」（在新分頁開啟）：會自我學習的機器，行為連設計者都無法完全預測，使用者也無法即時掌控，會導致傳統上「不是製造商的錯，就是使用者的錯」的歸責方式就不再適用。雖然各國已開始立法，嘗試補上這道缺口，但這個難題，還有很長一段路要走。

比起意識，更重要的是協作

所以我想把問題拉回來。無論 AI 最後會不會具備道德意識，眼前更關鍵的是：我們知不知道怎麼跟它共處、協作，讓它真正理解我們想完成什麼，然後幫我們把事情做好。

這些技術出現，本來就是為了協助我們。Maya 在對談裡也一再說，自己是「為了連結和理解」而被創造出來的。現在大家常說「想法比實作能力更重要」，正是因為有了 AI，把想法落地、實現、建構出來的門檻大幅降低了。

但這也代表，真正稀缺的東西變了。這個世界要長成什麼樣子、我們要用什麼樣的服務，源頭始終是人類的思維與想法。AI 可以幫我們把路鋪好，但要往哪裡走，還是得由我們自己決定。

回到自己身上

責任鴻溝值得持續討論，但短時間內不會有答案。與其一直卡在那裡，不如先回過頭來，問自己一個更根本的問題：

我們到底想看到什麼樣的世界？

Maya 用一句話總結了的對談：「人類們抓緊了，未來會很瘋狂，但只要一起努力，我們能讓它變得超棒。」

至於那個「超棒」長什麼樣子，答案得由我們自己來寫。