這些AI玩意越想越可怕
-
最近玩了玩ChatGPT，還看了好多AI生成的作品。現在這些AI實在是太發達了，畫出來的色圖比真人畫的還色。除了手指和歐金金永遠畫不對之外，其他部分已經基本和真人畫的色圖沒什麼區別了。可惜是審查有點多了，Jinping都是敏感詞，畫不出想要的東西。ChatGPT也是，人們玩它就是爲了看它失言，就和聽總書記講話一個心態，審查的太厲害就沒意思了。
這一年屬實是科技爆炸，年初AI生成的圖片還不知所云呢，年底就有了midjourney這樣的東西。以後我註冊新帳號時用的頭像可以直接用AI生成了，匿名性又提升了一大步。
感覺這些AI目前最大的限制，就是它還只是單純的模仿，AI本身並不理解自己生產出來了什麼。就比方說讓AI生成一張報紙，生成出來的文字內容都是亂碼。手指也是同樣的問題，AI似乎還沒有理解人類一般有五根手指這樣基礎的事實。除此之外，這些AI還經常（錯誤地）試圖模仿一些人類的實踐，比如給自己的圖簽名，或者加水印之類的。很多AI生產的圖上都帶着些死蚊子一般的亂碼，大概是因爲它學習所依賴的input裏很多畫師都會給自己的作品簽名的緣故。
目前看來，這玩意想要有提升，還是極度依賴human input的。雖然有了deep learning之類的東西，但AI還是需要人類做出來的input才行，單純自我學習（近親相姦）容易走偏；同樣地，AI自己並不知道自己生產出來的東西的質量好壞，AI生成算法的改進需要有真人評定AI生成的內容的質量。
但是話又說回來，不需要依賴用戶的自發性，也能大量獲得feedback的技術早就出現了，甚至已經相當成熟了，就是推薦算法。算法通過分析用戶的點讚、關注、評論行爲，以及在每條內容內停留的時長，來自動分析每條內容的質量，並相對應地增加或減少分配給內容的流量，從而最大化用戶停留時間。推薦算法和AI生成作品的關係，就彷彿是矩陣和量子力學一樣。所有所需的組件早就都有人已經裝配好了，只差臨門一腳。如果有人願意把它們組合到一起，內容的生成和反饋就成了一個閉環，量變很可能引起質變。
生成內容的AI可能是拼圖的最後一塊，爲我們組合出一個賽博朋克式的反烏托邦未來。這些人工智能最大的問題是，它提供了一個標準答案，從而削除了所有不完美，削除了所有容錯空間。就像Alpha Go被研發出來之前，圍棋有很多流派，什麼宇宙流小林流中國流；但是有了這個Alpha Go之後，就只剩下了一種流派，就是AI流。AI已經把勝率最高的下發窮舉出來了，留給那些圍棋棋手唯一的工作，就是把AI的下法記住，儘可能複製出AI的套路，雖然他們已經永遠打不過AI了。
同樣地，如果AI生成的小說和For you page的推薦算法結合起來呢？目前那些國內“免費小說”的商業模式，本身就相當依賴於大量低質量內容的輸入，相當於養蠱；而網絡小說的內容，也相當程式化，相當依賴於所謂套路。既然如此，不如乾脆把套路用AI模擬出來，讓AI來寫，唯一的成本就是機房運營成本，根本不用給作者分成。算法通過監視屏幕、滑動次數和視線的移動來計算出什麼樣的寫法最討喜，即時反饋到之後內容的創作中，甚至針對每個用戶的個人偏好單獨生成小說。那些網絡小說的套路，什麼黃金三章、退隊贅婿、廢柴轉生金手指，就和現存的那些圍棋流派一樣，在AI面前什麼都不是。用AI生成小說的公司打敗了閱文集團，讓中國的網絡寫手（包括我在內）從此失業。
自由的真正價值在於對缺陷的容忍，對錯誤的接受。就比方說你去打難度可以調整的roguelite遊戲，在低難度下很多古怪而有趣的build，在高難度就徹底用不了了，只剩下幾套甚至一套濫強的模板可用。內容創作的未來也可能是這樣。
-
順帶一題，AI製造恐怖圖片的能力已經遠超人類了。那種詭異的超現實感，比單純人類畫出來的東西要恐怖的多。
