周伯文安全与性能发展失衡探索°平衡律

周伯文：安全与性能发展失衡，探索°平衡律

·当前AI模型安全能力的提升远远落后于性能，导致AI的发展是跛脚的，失衡的背后是两者投入上的巨大差异。目前世界上99%的算力用于模型预训练，只有不到1%用于对齐或更多安全优先的考量。发展可信AGI，需要探索AI45度平衡律，长期来看，AI要大体上沿着45度安全与性能平衡发展。短期内可以有波动，但不能长期低于45度，也不能长期高于45度，这会阻碍技术和产业应用的发展。周伯文表示，从人才密集度、商业驱动力、算力投入度方面对比来看，对安全的投入远远落后于AI能力提升。7月4日，2024世界人工智能大会暨人工智能全球治理高...