2024年7月4日上午,隶属济南计算机学会的山东鹰雁科技有限公司的景祥坤经理、霍成琳经理与山东浪潮软件科技有限公司的韩帅经理一行三人访问信息工程系。信息工程系系办主任刘兴义及专职教师郑凯接待了学会来访团队。双方进行了AIGC相关工坊建设内容的交流,探讨了基于智算融合的大模型创新应用平台的发展前景。
![](/__local/2/3A/B8/F951474AEB44EA7D3B4B5242594_69091F72_D47DC.png)
济南计算机学会自2019年起,由山东鹰雁科技有限公司负责硬件部署,山东浪潮软件科技有限公司提供技术支持,共同推进了学会的硬件与软件发展。此次交流旨在探讨如何利用AIGC技术赋能传统专业,实现教育与技术的深度融合。
霍成琳经理首先介绍了基于智算超融合的应用平台,该平台涵盖了六个关键方面,包括面向科学研究的人工智能(AI4S)、中小学AIGC通识课程的个性化模型训练,以及跨学科融合与人才培养等。他强调了现有平台的弊端,如信息安全风险、长期收费问题,以及门户化导致的额外收费和接口影响。
![](/__local/3/A2/4C/45B394A14F3FC7C388B9BAC0558_E1A0DDD2_8B75B.png)
以平台目前应用的某学院私有化部署为例,霍经理展示了文物创新应用的成功案例,其中600多件文物已完成二次创新。其中方案包括应用层与个性化服务,基于Stable Diffusion的模型层,以及智算融合的离线大模型平台和本地化服务器计算资源池等。郑凯老师则对平台应用的模型层内容扩展提出了建议。
![](/__local/7/83/BC/C5EB586F89CDD3D625A049F821B_35500037_9B25F.png)
韩帅经理阐述了目前服务器应用的各款英伟达显卡的并行计算能力分配,以及数学和医学模型的应用案例。他详细介绍了智算融合平台的技术细节,包括Docker与Kubernetes的集群管理,以及腾讯开源技术在显存切割中的应用。他还提到了与IMAS服务器厂商的战略合作,以及开发更新后Bug测试的重要性。
![](/__local/B/76/13/14DC1A697885F0BC04444F04ECE_B483E84D_99F70.png)
双方讨论了技术实施的具体问题,包括机位、服务器的用电量,以及机房和管理人员的配置。郑凯老师还与韩经理讨论了包括UPS部署、服务器风冷与液冷的选择等硬件安全方面的内容。韩经理强调了集群分配的重要性,以及上层软件的封装可以为老师们提供试错和激励的机会。
此次交流洽谈标志着信息工程系与济南计算机学会在AIGC工坊建设探讨方面迈出了第一步。双方期待通过智算融合平台,共同推动教育与技术的创新,为传统专业转型升级提供强有力的支持。