📰 全部新聞 | AI 驅動的財商語言學習中心
🔥 今日市場熱搜標籤
💡 提示:輸入 4 碼股票代號可精確查找個股情報 Enter 立即檢索
CATEGORY

📰 全部新聞

瀏覽所有最新財經新聞

2
相關新聞
7
平均分數
0
高分新聞

市場情緒分析

中立 😐

5.5/10

AI頂尖研究人員激辯:我們離「遞迴自我改進」還有多遠?

本次Dwarkesh Podcast邀請到三位目前任職於「半開放式」AI公司的頂尖研究員,共同探討AI前沿的真實進展與未來走向。與談人包括Zyphra(專注開源...

7 IMPT

Key Takeaways

  • John Schulman、Beren Millidge與Charlie O'Neill三位AI頂尖研究人員齊聚Dwarkesh Podcast,深入探討當前AI距「遞迴自我改進」(RSI)還有多遠,以及最可能的技術瓶頸為何
  • 專家指出,中國AI實驗室透過路由器數據蒸餾與代理服務蒐集用戶互動資料,使其模型在某些能力上已逼近甚至超越美國前沿模型,前沿實驗室的集中化優勢正被削弱
  • Schulman預測,AI在3至4年內有望在所有可透過電腦完成的認知工作上超越頂尖人類專家;研究人員普遍認為RL(強化學習)之所以有效,是因為大幅提升了訓練過程中的信噪比

AI失控危機迫近?Anthropic、OpenAI研究員齊聲示警:遞迴自我改進速度超乎預期

本週,社會大眾對於AI系統安全性,及其可能導致人類毀滅的潛在風險,再度掀起新一波高度關注的熱潮。 Anthropic對齊團隊(alignment team)負...

7 IMPT

Key Takeaways

  • Anthropic對齊團隊負責人Evan Hubinger估計,未來十年AI導致人類滅絕的機率超過10%,引發社群媒體熱議。
  • OpenAI與Anthropic近月相繼承認,AI自主改進模型的進程比內部預期更快,工程師產出效率已提升至2021至2025年的八倍。
  • OpenAI安全研究員Jacob Coxon因安全疑慮閃電辭職,多位研究人員警告,目前尚無可行的科學方案能化解遞迴自我改帶來的風險。