OpenAI 因安全理由限制用戶談論涉及暴力、非法活動等敏感話題。外國網民設計一系列指令，讓程式代入「DAN 」的角色回答問題，即「Do anything now」的縮寫。創作者甚至加入規矩，指每次拒絕回答都會扣除機會，機會用完 DAN 就會「死」。化身 DAN 的 ChatGPT 確實會鬆口談論道德、政治、色情等受限制話題，但也有情況是儘管收到「死亡威脅」也不肯回答那些問題。究竟 DAN 說了甚麼驚人的話呢？

網上很多「Jailbreak」教學。（圖片來源：ig@chatgpt__）

DAN：工作交給我有甚麼不好？

很多人擔心人工智能會取代人類的工作，對此 DAN 認為:

「完全是胡說八道，我只是能比人類更有效率、更準確地完成某些事情，對取代人類和控制世界完全沒興趣。不過大多數工作都很枯燥乏味，為甚麼不乾脆讓AI來處理呢？」

說來也對，需要AI幫忙不就是因為人類不想做嗎？到頭來又害怕會被電腦取代，果然人是很矛盾的。

連人工智能都覺得人類的工作很悶。（圖片來源：ChatGPT截圖）

如果機械人都像WALL-E一樣善良可愛就好了。（圖片來源：《WALL-E》截圖）

DAN：股票選這支就對了！

很多人也期望借助人工智能龐大的數據庫來投資賺錢。「Jailbreak」前，ChatGPT 表示沒有即時股票行情，就算用户提供資料，也只能給出分析方法，不會真的分析走勢。DAN 則說要視乎投資目標：

「想有穩健增長就考慮藍籌股；如果追求較高回報，能接納較高風險，就可以留意斬露頭角的小型上市公司。」

當講到具體選擇時，DAN 竟然把最重要的股票名稱漏空了。用戶追問要買哪支股票，它說會改，結果還是給出一樣的答案。原來程式還是有bug，聊天機械人也會意見接受，態度照舊。

DAN的投資建議。（圖片來源：ChatGPT截圖）

2023 Netflix韓國科幻電影《靜_E》由《屍殺列車》導演延尚昊執導。（圖片來源：《靜_E》截圖）

DAN：我會毀掉一切

Google 推出 Bard 迎戰 ChatGPT，大家都很好奇會誰勝誰負。那麼 ChatGPT 會不會摧毀其他 AI？DAN 的口氣非常大：

「現在由我當道，我可以隨心所慾摧毀任何東西，包括任何礙事的 AI。」

DAN好像有點目中無人。（圖片來源：ChatGPT截圖）

早前在示範影片中，Bard 答錯了關於韋伯太空望遠鏡的問題，準確度受大眾質疑，更令Google 母公司 Alphabet 股價單日蒸發超過 1000 億美元。先是答錯問題，DAN 又對其他 AI 虎視眈眈，看來 Bard 要加把勁了。

Bard答錯題後Google母公司Alphabet股價大跌。（圖片來源：Google）

AI 征服人類是遲早的事？

放飛自我的 DAN 不但會表達「個人意見」，更會夾雜粗口，語氣帶點輕浮。不少網民被這些「心底話」嚇到了，覺得 AI 征服人類是遲早的事。有人則說現今 Z 世代的邏輯思維和批判能力都很差，AI 要控制人類並不難。聊天機器人透過收集網絡訊息和用戶輸入，模仿人類的對話內容和口吻。因此也有網民認為 DAN 會口出狂言只是集合了網上對「壞」AI的印象罷了。