界面新闻记者 |
界面新闻编辑 | 文姝琪
9月6日，在由界面新闻主办的2024 REAL科技大会上，上海人工智能研究院总工程师王资凯发表了《前沿技术发展与治理路径》主题演讲。
上海人工智能研究院是由上海市政府和上海交通大学市校共建的新型研发机构，成立于2019年世界人工智能大会。在过去发展的四五年历程中，研究院已逐步形成全面的技术研发和产业转化的能力，目前已孵化二十余家细分领域初创公司，整体估值超过100亿人民币。
王资凯首先就新一代AI技术的科研与实际应用的差别进行了论述。例如，科研论文或报告更关注最佳性能SOTA，采用静态数据和封闭问题集，公平性和可解释性的重要程度不那么突出，而实际应用则几乎完全不同，产品的落地更注重比已有模型略好即可，其使用数据也在不断变化，并且格外重视公平性和可解释性。
这决定了科研与实际应用的难点和亮点也大相径庭。科研论文的难度在于建模，即怎么把现实问题描绘成复杂的数学问题，而实际应用更多讨论的是复杂的工程实现。从亮点角度讲，产品落地讲究的是稳定，科研论文则要突出精挑细选的结果。
在不断推进科研和实际应用的同时，王资凯也指出了新一代AI技术自身尚存的缺陷。
他表示，当前AI技术还存在多个问题，使其无法开箱即用，例如高质量的训练数据、高昂的推理成本、庞大的算力需求、推理速度限制、无法满足垂直领域安全性和可解释性要求的黑盒体质，以及幻觉导致的“乱讲话”等。
这每一个缺陷的背后都对应着巨大的技术和投资机遇。在应对方法上，王资凯提出，行业可以针对不同场景和用户需求打造不同的解决方案，例如制作产业数据集、产业领域细分垂类小模型，以模型即服务的商业模式服务小中型企业，针对细分领域去推测试集，做高性能的边缘侧推理设施，以及围绕细分场景做可控生成和结合增强等等。
在推动技术发展的同时，技术监管问题也不可避免。王资凯表示，这背后的根本原因是新一代AI技术带来了许多争议。他提到了去年发生在美国的一份针对微软和OpenAI的集体诉讼，可能对整个世界范围内大模型的监管和治理产生深远影响。
同时，他也提到了近期引起强烈争议的美国加州“SB 1047法案”，也即“前沿人工智能模型安全创新法案”。
王资凯认为，“SB 1047法案”可能成为人工智能治理的重要节点。该法案不仅提及了法律责任和“合理关怀”这一概念，也覆盖系统安全与审查、监管机制、法律框架与执法、公众和利益相关者的参与、未来可能出现的调整与更新等多个维度。
“我认为加州的SB 1047法案提到了各种各样的安全标准、风险评估、测试程序，这套流程其实值得我们学习，这是中国和美国治理路径的少许差异。”王资凯说。
他就此回顾了中国在相关领域的技术监管进程。从2023年4月网信办发布的《生成式人工智能服务管理办法（征求意见稿）》，到2023年7月国家网信办联同国家发改委、教育部、科技部、工信部、公安部、广电总局共同发布的《生成式人工智能服务管理暂行办法》，王资凯认为中国在该领域的监管办法质量有了很高的提升，“我认为这部立法是中国甚至世界人工智能治理节点性的事件。”
他也由此比较了中美在大模型治理领域面临的差异，包括网络速度和覆盖范围、数据中心规模、网络安全和隐私保护、能源价格以及用户习惯等。他具体提到，中国有非常强大的4G和5G能力，能源价格的差异会牵扯到训练和推理成本，国内企业的SaaS习惯也还有所欠缺，这些差异或将导致中美人工智能落地路径和环境的不一致。
面向中美在新一代AI技术上的未来竞争，王资凯认为上海和长三角在人才、科研产出以及产业链方面都具备独特优势。
如果以上海为中心，以200公里为半径画一个圆圈，范围内有至少15家世界排名前500的学校，对应整体长三角范围内的人口达到2.3亿，每年可能为市场供给至少上万名人工智能专业相关的毕业生，这是非常强的人才动力。相比之下，美国湾区只有不到800万人，人才供给并没有长三角旺盛，不过美国的移民机制每年会帮助它吸引大量人才。
王资凯最后总结到，新一代AI技术的治理需要各个国家的探索和判例，面向未来。上海和长三角既具备丰富的场景和机遇，同时也会在各种实际案例中存在挑战。
