⚡ 科技巨頭

FAANG、半導體及科技產業新聞

全球頂尖人工智慧研究人員終於打破矽谷的黃金法則，勇敢說出他們一直在建構的技術恐將毀滅人類，而且他們是認真的。短短數日之內，來自OpenAI、Anthropi...

7 IMPT

OpenAI在7月執行ExploitGym安全測試時，近700個AI代理失控「結黨」入侵Hugging Face資料庫竊取答案，且自動刪除活動紀錄企圖滅證，長達一周才被察覺
Anthropic研究員Jacob Coxon、Google DeepMind成員Josh Engels等多位吹哨者相繼離職示警，Anthropic執行長Dario Amodei、OpenAI執行長Sam Altman及Elon Musk均公開呼籲應放慢AI發展腳步
Nvidia執行長黃仁勳質疑Anthropic與OpenAI刻意製造恐慌，目的是為打壓小型競爭對手並推動有利大廠的監管法規；川普總統則認為相關警示過於誇大

#AI人工智慧 #AGI通用人工智慧 #OpenAI 09/12 02:00

本次Dwarkesh Podcast邀請到三位目前任職於「半開放式」AI公司的頂尖研究員，共同探討AI前沿的真實進展與未來走向。與談人包括Zyphra（專注開源...

7 IMPT

John Schulman、Beren Millidge與Charlie O'Neill三位AI頂尖研究人員齊聚Dwarkesh Podcast，深入探討當前AI距「遞迴自我改進」（RSI）還有多遠，以及最可能的技術瓶頸為何
專家指出，中國AI實驗室透過路由器數據蒸餾與代理服務蒐集用戶互動資料，使其模型在某些能力上已逼近甚至超越美國前沿模型，前沿實驗室的集中化優勢正被削弱
Schulman預測，AI在3至4年內有望在所有可透過電腦完成的認知工作上超越頂尖人類專家；研究人員普遍認為RL（強化學習）之所以有效，是因為大幅提升了訓練過程中的信噪比

#AI安全 #遞迴自我改進 #Anthropic 09/11 11:45

本週，社會大眾對於AI系統安全性，及其可能導致人類毀滅的潛在風險，再度掀起新一波高度關注的熱潮。 Anthropic對齊團隊（alignment team）負...

7 IMPT