蝦子耶穌爆紅！AI生成內容佔據網路，「死亡網路」理論成真？

6次閱讀

電腦王
登入
註冊新聞評測處理器主機板顯示卡記憶體儲存機殼 / 電源網通電腦 / 周邊遊戲 / 電競活動專區業界動態 2023 科技趨勢金獎
關注電腦王最新動態
facebooklinetelegramyoutubeinstagram
關於電腦王 | 隱私權政策
著作權聲明 | 廣告合作
首頁

5G/ 網路
2024.05.27 13:00
蝦子耶穌爆紅！AI 生成內容佔據網路，「死亡網路」理論成真？
netizen
netizen
Facebook
LINE
蝦子耶穌爆紅！AI 生成內容佔據網路，「死亡網路」理論成真？
如果你在 Facebook 上搜尋「蝦子耶穌」，可能會看到大量由 AI 生成，將甲殼類動物與耶穌基督的典型形象融合在一起的圖片。

訂閱T客邦電子日報
掌握最熱門的科技話題、網路動態，升級你的科技原力！
請輸入您的 Email
立即訂閱
這些超逼真的圖像有些獲得了超過 2 萬個贊和評論。這究竟是怎麼回事？

「死亡網路理論」提供了一種解釋：AI 和機器人產生的內容已經超過了人類創造的內容。但這個想法從何而來，它有任何現實基礎嗎？

Facebook 上的蝦子耶穌圖像範例。
▲ Facebook 上的蝦子耶穌圖像範例。

什麼是死亡網路理論？
死亡網路理論基本上聲稱，網路上的活動和內容，包括社群媒體帳號，主要是由人工智慧代理創造和自動化。

這些代理可以快速生成貼文，並搭配 AI 生成的圖像，在 Facebook、Instagram 和 TikTok 等平台上大量獲取參與度（點擊、點讚、評論）。至於蝦子耶穌，AI 似乎已經學會了這套荒誕和宗教肖像相結合的最新流行趨勢。

但死亡網路理論更進一步。許多參與這些內容的帳號似乎也是由 AI 代理管理。這就形成了一個惡性循環，人工參與沒有明確的目的，不再涉及人類。

延伸閱讀：Google 的新聞搜尋結果，把 AI 生成的文章排在抄襲的真實媒體文章之前
延伸閱讀：由 AI 所產生內容的 AIGC 能加速推動元宇宙的發展嗎？
無害的參與度獲取還是精心策劃的宣傳？
乍看之下，這些帳號吸引關注的動機似乎很明顯——社群媒體的參與度會帶來廣告收入。如果一個人建立了一個帳號，獲得了虛的高參與度，他們可能會從 Meta 等社群媒體組織獲得部分廣告收入。

那麼，死亡網際網路理論僅止於無害的參與度獲取？或者在表面之下，隱藏著一場複雜、資金充足的行動，目的是支持獨裁政權、攻擊對手和散布宣傳？

雖然蝦子耶穌現象看似無害（儘管很奇怪），但這可能是一個長期陰謀計劃。

隨著這些 AI 驅動的帳號追蹤者增加（許多是假的，有些是真的），龐大的粉絲數也會被真實的使用者所信任，進而使該帳號獲得合法性。這意味著，有一大群帳號正在被創造出來。這些追蹤者眾多的帳號可能會被出價最高的人利用。

這一點至關重要，因為社群媒體現在是全球許多使用者的主要新聞來源。在澳洲，去年有 46% 的 18 至 24 歲年輕人將社群媒體列為他們的首要新聞來源。這一比例高於 2022 年的 28%，超過了廣播和電視等傳統媒體。

機器人推動的假訊息
已有充分證據表明，社群媒體正被這些人造膨脹的機器人所操縱，利用假訊息來左右輿論，而且這種情況已經持續多年。

2018 年的一項研究分析了 2016 年和 2017 年 10 個月期間的 1400 萬條推文。研究發現，社群媒體上的機器人大量參與散布來自不可靠來源的文章。擁有大量粉絲的帳號讓錯誤訊息和假訊息合法化，變得可信，導致真實使用者相信、參與和轉發由機器人發布的內容。

在美國發生大規模槍擊事件後，已經發現機器人透過這種方式操縱社群媒體的現象。2019 年，一項研究發現，在 X（前身為 Twitter）上機器人產生的貼文對公眾討論有很大影響，起到放大或扭曲與極端事件相關的潛在敘述的作用。

最近，幾次大規模親俄假訊息活動的目的是削弱對烏克蘭的支持，並促進親俄情緒。

這些運動由活動人士和記者揭露，他們利用機器人和 AI 創造和傳播假訊息，觸及了數百萬社群媒體使用者。

僅在 X 上，這個運動就使用了超過 10,000 個機器人帳號，迅速發表了成千上萬條親克里姆林宮內容的消息，這些消息被歸因於美國和歐洲的名人，似乎支持對烏克蘭的戰爭。

這種影響力是巨大的。一些報告甚至發現，2022 年近一半的網路流量是由機器人產生的。隨著生成式 AI 的最新進展，例如 OpenAI 的 ChatGPT 模型和 Google 的 Gemini，假內容的品質只會越來越好。

社群媒體組織正在尋求解決其平台的濫用問題。值得注意的是，Elon Musk 曾考慮要求 X 使用者支付會員費，以阻止機器人農場。