“現在你沒有告訴我那個失落的文明到底是什麼，我也不知道你到底有什麼樣的變化。”
方大強眉目間罕有的露出憂慮之色。
“兒子，我一直以來，都不曾因為年齡和閱曆否定過你的想法。”
“但你一定要考慮清楚，超級人工智能的危險性究竟是不是現在人類所能應對的。”
方豫安慰老爸：“放心吧，爸，即使ASI誕生，也不會毀滅人類。”
“當然，我說的是我所創造的這個ASI，那個‘失落的文明’中，有一種辦法可以完全控製ASI的安全性。”
方大強搖搖頭：“不，我說的不隻是終結者的那種危險，即使你有辦法完全保證ASI的安全性，但你能掌控人類社會因為AI的衝擊所造成的崩潰嗎？”
“這其實才是我真正擔心的。”
“現在人類社會的社會結構，是通過數千年來的不斷演化，形成的一種相對穩固的社會結構。”
“過去人類曆史上每一次技術的進步與躍遷，都造成了社會結構的巨大動蕩。”
“兩百多年前，瓦特發明蒸汽機，第一次工業革命開始，整個過程持續了一百年，而在這之後的三十年，世界上百分之八十以上的政權發生了變動。”
“一百多年前，第二次工業革命，電力開始大規模進入工業生產，幾十年後開啟的S2賽季差一點毀滅了人類文明。”
“而到了近年來被稱為第三次工業革命的互聯網時代，這個世界的社會結構其實已經再次變得岌岌可危。”
“你能夠看到，技術的普及速度是越來越快的，造成的動蕩也是越來越大的。”
“這是因為，第一次工業革命，至少有一百年的時間來調整社會結構，第二次也有四五十年，而到了第三次，目前看來，似乎二十年都不到。”
“在這種情況下，AI誕生了。”
“AI對於社會結構的威脅遠超過其他任何一次科技革命，它是人類創造出的第一個真正具有達到甚至超過人類能力的工具，是真的可以完全取代人類，而不是輔助人類工作的工具。”
“僅僅隻是目前橘子大模型的能力，就足以替代掉目前百分之七十的中產階層，隻不過現在還沒有真正普及和深入到各行各業而已。”
“但ASI，我想你也知道，誕生後可能用不了幾年，就能取代百分之九十的人類工作。”
“你覺得現在的人類社會，真的做好這個準備了嗎？”
“全世界勞動人口超過四十五億，到時候可能失業的就超過四十億，到時候怎麼辦？用ASI把他們全殺掉嗎？”
“這些問題你都考慮過嗎？兒子，這可不是一般的責任，我不想讓你餘生都活在後悔之中。”
方豫從未見過方大強和他說話時，有過如此嚴肅和認真的表情。
從小到大，其實方大強真沒打過他幾次，最狠的一次就是小學時他和王明軒兩個人逃學去水月溪抓麥穗魚那次。
哪怕那一次，方大強臉上的表情都未如此嚴肅。
此前方豫和馬斯克也進行過類似的對話，但馬斯克和方大強的關注點是不同的。
馬斯克並不關注普通人會不會失業，人類社會結構會不會崩潰，他隻關注ASI是否會演化出自主意識，會不會為了自我進化徹底消滅人類。
而方大強，關注的是人類社會結構在這種從未有過的大變革中，是否還能繼續存在，是否會造成“多數人的悲劇”。
這其實是兩個範疇的問題。
方大強認真，方豫也就跟著認真起來，收斂笑容，直了直身子。
“爸，我理解你說的意思。對於如何降低AI對人類社會結構的衝擊，甚至讓AI成為是人類世界更加美好的方案，我的確想了一些解決方案，同時也用那個‘失落的文明’的工具對這些方案進行了有效性驗證。”
“但是，我還是需要先跟老爸你澄清一下，即使我沒有這些方案，我也不會為AI對人類社會機構造成的衝擊而過分自責，認為這完全都是我的責任。”
方豫的回答，再次出乎了方大強的預料。
“就像老爸你說的，AI的誕生，會極大衝擊整個人類世界的社會結構。如果能夠停下，當然停下是最穩妥的選擇。”
“但在資本和競爭的推動下，新技術的普及和研發速度並不會因為人類的擔心與恐懼而停止，反而會越來越快。”
“比起技術革命，其實AI更像是核武器，邁國七十年前製造出第一枚原子彈的4年後，布聯就同樣開發出了核武，盎國在7年後，高盧在15年後都相繼有了自己的核武裝力量。大周當時那麼困難情況下，也隻是在短短的十幾年後，就成功引爆了第一顆原子彈。”
“在這種‘如果沒有就會死’的軍備競賽中，是不可能有人同意掉隊的。”
“每一方所能做的，就是比其他人擁有更多的武器、更強大的武器。”
“而且這一次，參與競爭的，不隻是國家這個實體，還包括諸多的企業。”
“直到某一方占據徹底的壓倒性優勢，這種軍備競賽才會停下。”
“也隻有在擊敗了所有競爭對手後，談如何解決AI對人類社會結構造成的衝擊才有現實意義。”
“我並不是在推卸責任，但以此前古狗和其他公司對AI的研究進度進行推導，就算沒有柚子科技，可能不出五年，具有AGI潛力的AI模型也會出現。”
“那時出現的AI，可是沒有類似橘子大模型這樣的安全措施的，對人類社會的威脅更大。”
“而且，您覺得，那時人類社會就會做好了準備嗎？不，同樣不會，看國際形勢未來的發展來說，說不定準備的比現在還要糟糕。”
“我是人，會承擔一個人類所應當承擔的責任，但若不是我的責任，我也絕不會強行承擔。”
聽到這裡，方大強的目光不由得有些驚異。
他完全沒想到，幾年前還跟著自己屁股後麵嬉皮笑臉的小屁孩，現在對事物居然有了這樣的理解力。
這並不是說他不了解方豫，而是家長在麵對孩子此前很少表現出的某些“成熟”時，自然而然的反應。
他並不是驚訝於方豫對AI的分析和判斷，而是驚訝於方豫對“責任”的認知。
勇於承擔責任，並不是真正的成熟，能夠分辨哪些是自己該承擔的，哪些不是，才是真正的成熟。
兒子真的長大了啊。