2026年11月6日

EP462 – AI 直接動手改另一個 AI？MIT 新研究：數學從 100 題對 8 題變對 48 題，它到底做了什麼｜Weight-Space Programming

2026 年 11 月 2 日，MIT CSAIL 的四位研究者（Takehi、Teoh、Zhang、Khattab）發表研究文章「Sparks of Weight-Space Programming」（放在作者網站上、還沒經過同儕審查，實驗紀錄全部公開）。他們讓 OpenAI 的 GPT-6 Astra 直接看懂、動手改另一個 AI 模型裡面的數字，不用重新訓練。一個小模型的數學考試，從 100 題答對 8 題變成答對 48 題。這一集用白話講：平常要怎麼改 AI、這次哪裡不一樣、它怎麼做到的、做到什麼、還做不到什麼，以及這件事代表什麼。不需要機器學習背景。 📌 這一集的五個重點做到的：AI 光看數字，就能猜出另一個網路在做什麼，還能直接修好卡住的網路 8 題變 48 題，是拿掉「跳針」的毛病，讓模型寫完本來會算的題目，沒有教會它數學做不到的：很大的模型、只看數字判斷模型行為、加進本來沒有的能力真正新的：AI 自己做完整套研究、再直接動手改，不用資料、不用訓練接下來看：跟一般的微調比划不划算、模型變大還撐不撐得住（「代表什麼」那段的作者願景、我的推論都另外標清楚，不是研究結果） 📄 研究原文與完整紀錄・Takehi, Teoh, Zhang, Khattab（MIT CSAIL）｜Sparks of Weight-Space Programming： https://rikiyat.github.io/blog/weight-space-programming/ ・每個實驗的完整紀錄（給 AI 的指令、AI 的回覆、程式、評分）： https://github.com/RikiyaT/lm_understand-logs ・Qwen3.5-0.8B 模型說明頁（思考模式容易重複、官方預設不開）： https://huggingface.co/Qwen/Qwen3.5-0.8B 畫面中的實驗圖依原文重畫，車子場景為示意。 🎬 參考影片・Matthew Berman｜The most important paper in AI right now： https://www.youtube.com/watch?v=j09uV1oAuIo ・Caleb Writes Code｜Weight-Space Programming explained in 10min..： https://www.youtube.com/watch?v=77hHgDkbtLI ・Jia-Bin Huang｜LLMs Can Now Read and Write Neural Network Weights： https://www.youtube.com/watch?v=r8sZgPx4jYA ・Prompt Engineering｜Weight-Space Programming: AI Is Now Rewriting Other AI Models： https://www.youtube.com/watch?v=wXJDtImT_-0 ・Code Bear｜GPT-6 Astra fixed Small Broken Qwen Model in One shot!： https://www.youtube.com/watch?v=bLjFdgrkiQ4 ・AIM Network｜MIT Shows An AI Can Edit Another Model's Weights And Lift Math Score To 48.1%： https://www.youtube.com/watch?v=0rb3MdrMa8o 這一集有很多圖解，想看影片版的話，YouTube 搜尋「AI 懶人報」就找得到。歡迎請我喝杯咖啡，幫助我繼續把節目做得更好唷～！ 👉 https://buymeacoffee.com/ailanrenbao -- Hosting provided by SoundOn