【青新观察室】ChatGPT、Sora大爆 生成式人工智能可信吗？

【青岛新闻网独家】

（记者 韩彤彤 宁冠宇）

ChatGPT、Sora的热度居高不下，生成式人工智能让人们更直观地感受到技术的便利。

如何保证生成式人工智能生成的内容是可信的？

在本次访谈中，青岛市人工智能学会理事长张卫山表示，由于目前人工智能技术本身的特点，生成式人工智能生成的内容仍存在不专业、不可信等一系列问题，“这些生成式大模型在处理专业领域问题时，还需要大量的领域性适配工作。因此，确保内容可信需要从数据源头、训练过程和推理过程入手解决。”

有人说，人工智能＋大数据将会成为推动未来发展的两大引擎，未来人工智能的发展趋势更将呈现出更高、更快、更强的特点。诚然，技术的发展日新月异，但在感受技术便利性的同时，我们依然应保有独立思考的能力。

记者：请简单介绍下您的研究方向？什么是“可信人工智能生态”？其优势何在？

张卫山：“可信人工智能生态”是一个以可信人工智能为基石的联盟生态，旨在使人工智能可以可信、安全地使用，在设计、开发、部署和使用的各个阶段都能够被信任。简单理解就是这个生态会提高人们对人工智能技术的信任，促进数据要素的高效汇聚共享。

它的优势有很多，隐私性、安全性、可解释性，可以更好地促进人工智能技术与各行各业的深度融合，更容易被接受。

记者：人工智能已成为对传统领域进行数字化转型的重要技术手段，“ChatGPT、Sora”这样的生成式人工智能会带来哪些变革？另外，这种生成式的智能如何确保生成的内容是可信的？

张卫山：最近，生成式人工智能发展非常迅速，可以认为是革命性的进步，大大改变了目前很多领域的工作模式，大大提高了视频图像生成等效率，代替了翻译、润色、图像生成、（部分）代码编写等部分重复性工作，大大提高了工作效率，也将对智能制造、智慧城市等相关行业带来巨大影响，改变过去一些关键技术支撑，比如其预测、分析、决策技术等。

当然，这些生成式大模型在处理专业领域问题时，还需要大量的领域性适配工作，适应领域业务知识，也产生了好多专业大模型，比如中医大模型等，也是目前产业界重点工作之一。

由于目前人工智能技术本身的特点，生成式人工智能生成的内容，存在一系列问题：

1．不专业。比如：科技论文写作，生成的没法用需要大力修正。

2．不可信（大模型的幻觉）。比如：生成不存在的文献等。

如何保障内容的可信，目前可以从数据源头、训练过程和推理过程入手消除，例如斯坦福大学的研究人员发布 WikiChat，通过外部知识嵌入和事实检查等措施大幅度提升了模型生成结果的可信性。另外，通过区块链设计安全围栏等，能缓解类似问题。

记者：在推动＂人工智能＋＂行动的过程中，您认为如何才能更好地汇聚政府、企业、学校各方的力量呢？

张卫山：提升数据开放水平。数据是人工智能的基础要素，为提升数据开放水平，需要加强数据资源的收集、整理、分析和应用，提高数据资源的价值和效益。同时，建立数据资源共享机制，打破数据孤岛，促进各方数据资源的流通和交换，为可信人工智能技术提供充足的数据支撑。

加强政府引导，完善创新机制，共建人工智能技术新发展格局。制定相关专项攻关计划和科技专项，建立更加高效的激励政策，通过提供资金支持、风险分担等方式，引导和鼓励风险投资机构参与人工智能和各行各业的结合。完善创新机制，以人工智能的各大关键技术为目标导向和问题导向，优化科技资源配置、激发创新主体活力。

加强产学研协同，构建产业全链条生态。以人工智能技术为核心，整合上下游产业资源，形成涵盖技术研发、产品生产、市场应用、服务支持等环节的完整生态。充分发挥高校、科研院所、企业等创新主体的作用，促进科技资源的共享，推动人工智能领域的重大科技项目和平台的联合攻关和协同创新。同时，加大对产学研协同创新平台和联盟的支持力度，搭建多方参与和协作的创新网络。

记者：青岛是一个大的旅游城市，也是一个工业基础雄厚的城市，您认为可以从哪些角度出发来构建青岛市的＂人工智能＋＂行动路径呢？

张卫山：我们可以通过以下四个角度构建青岛市的＂人工智能＋＂行动路径，推动城市智能化发展，提升城市的竞争力和可持续发展能力。

智慧旅游：利用人工智能技术，尤其是现在火热的大模型技术，构建智慧旅游问答平台，为游客提供个性化、精准的旅游信息和服务。可以通过数据分析、推荐算法等技术，为游客定制个性化的旅游线路、餐厅推荐、景点介绍等，提升游客的旅游体验。

智能制造：结合青岛的工业基础，可以采用机器学习算法优化生产调度、实时监测运输状况、预测销售方向、设备运行故障，实现生产、运输、销售、售后过程的智能化、自动化，提高生产效率和产品质量，节省人力物力。

智慧出行：通过交通大数据分析优化交通信号控制、智能路灯管理，优化交通流量管理，提高交通效率，减少拥堵。同时，可以引入自动驾驶技术与智能路线规划，推动自动驾驶车辆在城市道路上的应用，提高交通运输效率。

智能医疗：在医疗健康领域，可以通过多家医院联合学习、医疗大数据分析、智能图像诊断技术，提高医疗诊断的准确性和效率。同时，可以推动远程医疗、智能健康监测等技术的应用，实现医疗资源的优化配置和医疗服务的智能化。

记者：现在人工智能的发展日新月异，您认为未来的发展趋势是怎样的？

张卫山：随着人工智能的迅速发展，未来的发展趋势将呈现出更大规模、更快速度、更多模态和更个性化的特点。

更大规模与更小模型融合：未来的人工智能模型将会进一步增大规模，将会具有更多的参数和更丰富的表示能力。这些大规模模型能够更好地处理复杂的任务和更多样化的数据，从而提高人工智能系统的性能和适用范围。同时，在边缘设备端通常需要部署小模型，个性化的低功耗的模型，比如服务端与边缘端联合时，需要大规模与小模型的深度融合。

更快速的训练和推理速度：随着硬件技术的进步和算法的优化，未来的人工智能模型将能够实现更快速的训练和推理速度。

更多模态、高度融合：未来的人工智能模型可能会更多地涉及多模态学习，即同时处理多种类型的数据，如文本、图像、声音、视频等。这些多模态模型能够更全面地理解和处理信息。

更个性化：未来的人工智能模型可能会更加个性化和定制化，能够根据具体行业、用户的具体需求和具体场景进行个性化的训练和优化。这将使得模型能够更好地适应不同领域和不同用户群体的需求，提升模型的适用性和效果。

综上，未来人工智能的发展趋势将呈现出更高、更快、更强的特点。这将为人工智能技术的快速发展提供强大动力，推动社会进步和经济发展。