硅谷101|中国版
[http://imagev2.xmcdn.com/storages/047c-audiofreehighqps/9A/66/GKwRIJIOICPRAAHpNQSx9fhS.jpg!op_type=4&device_type=ios&upload_type=attachment&name=mobile_large] 从ChatGPT掀起生成式AI浪潮到现在,不过短短两三年,AI能力的进化速度已经让"AI自我进化"这件事从科幻走进了现实。上个月,Anthropic在一份公开报告中预测,AI未来将进入"递归自我提升"(Recursive Self-Improvement, RSI)阶段,并呼吁人类共同为AI的发展设计出一个减速或暂停机制。 AI自我进化会以多快的速度到来?未来的AI,它会在通往真理的道路上与人类并肩作战,稳步破解医学、气候等种种难题,还是会在暗处走向失控? 本期播客,泓君邀请到专注做“发现模型”的AI公司Apodex的两位首席科学家,杜少雷和Beibin,一起聊聊AI的自我进化与自我验证。 Apodex是一家陈天桥出资创立并亲自主导的公司,这家公司给自己的定位也非常的特别,他们只做一件事——heavy duty solver,意思是专啃那些没有标准答案,人类自己都不知道从哪下手的难题。他们管自己想做的模型叫做 discovery model。不是从已知的信息里面找答案,而是要提出人类还没有想到过的假设,自己想办法去验证它,去解决这个世界上还没有被解决的科学难题。 嘉宾预言,最快半年,AI就能跑通一次完整的自我进化闭环。但要实现持续的、可靠的递归提升,模型必须具备“自我验证”能力。这很像人类科学家的基本功:大胆假设,小心求证。而要让AI做到这一点,关键的前提是——教会大模型真正拥有科学家一样的品味和判断力。 【主播】 泓君,硅谷101创始人,播客主理人 【嘉宾】 Simon Shaolei Du(杜少雷),Apodex推理模型与训练首席科学家,华盛顿大学计算机科学与工程学院副教授 Beibin Li (李辈滨),Apodex自我进化与编程首席科学家 【你将听到】 自我进化背后的底层能力 03:00 AI自我进化不是新概念,两三年前就有了 06:48 RSI概念火了,背后是模型能力变强了,长程任务表现更好了 09:20 技术上如何训练AI做好长程任务?算法+数据+infra 12:45 Coding能力代表了模型自我进化的底层能力 14:29 用自我验证规避“递归漂移”,代码领域相对可控 16:21 Apodex的验证方法:多个子agent互相验证 19:11 自我进化三条路径:预训练、后训练、Harness 23:56 另一项关键能力DeepResearch,Apodex如何做到多个榜单第一? 29:19 技术范式决定了多个agent组团解决问题效果好于单个 31:18 模型自动进化后,会碾压agent团队吗?垂直领域护城河仍在 自我进化关键一步——学会提问 34:19 Apodex定位:用Discoverative框架解决人类未解难题,不把Token当生意 36:18 “发现模型”最难之处:提出超出经验范围的假设,并去验证 37:52 让AI像科学家一样提问,需要模型有更好的品味 43:31 如何避免大模型拍马屁?远离大众偏好 46:30 “AI宪法”定义性格,顶级科学家数据校准品味 巩固品味,阻止“跑偏” 51:33 AI巨头都在做科研发现模型,判断问题价值是关键 55:32 不同于AI for Science,Heavy Duty Solver是通用模型,强调元能力 57:25 最快半年能跑通自我进化的第一个闭环,但解决递归漂移还需要2-3年 58:43 让科学家睡不着觉的问题:如何防止AI“走火入魔” 01:00:04 解决方案仍靠人工手调,“自我蒸馏”也许是个方法 01:04:28 人类只是warm start,未来AI将形成自我品味,就像AlphaZero 01:06:18 陈天桥与Apodex:制定“宪法”,聚焦Heavy Duty Discovery 【硅谷101正在招聘】 《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队! [https://imagev2.xmcdn.com/storages/3a42-audiofreehighqps/02/F9/GAqhuykOAY4qAASHsgSnjx80.jpg!op_type=4&device_type=ios&upload_type=attachment&name=mobile_large] 【硅谷101听友群】 终于终于终于,大家一直呼吁的硅谷101的社群要上线了!欢迎大家加入。 [https://imagev2.xmcdn.com/storages/368d-audiofreehighqps/E2/A7/GKwRIDoOAY4-AAJwjASnjyS7.jpg!op_type=4&device_type=ios&upload_type=attachment&name=mobile_large] 请用手机相机扫码;如已安装飞书/Lark,可直接在App内扫码进入申请表单。7天内审核,通过后邮件同步入群方式。期待和你在群里碰面! 【监制】 泓君 【后期】 Amei 【运营】 朱婕 【BGM】 Light-Footed - Bonnie Grace Reclaim - Megan Wofford Charcoal Stream - Curved Mirror
245 episodios
Comentarios
0Sé la primera persona en comentar
¡Regístrate ahora y únete a la comunidad de 硅谷101|中国版!