图:7月8日,小初2021世界人工智能大会开幕,国产超过300家企业的亮相众多前沿人工智能技术与产品集中亮相。/新华社
从检索图像、智力描述视频,媲美到吟诗作赋、人类续写文章,可自再到识别语音、动学双语翻译,小初虚拟人“小初”日前亮相2021世界人工智能大会,国产赋诗赞美天宫,亮相解说火箭视频,智力意会太空遨游,媲美展示了图、人类文、可自音三种模态的智能转换和生成。这得益于一个名为“紫东太初”的跨模态通用人工智能平台。该平台由中国科学院自动化研究所研发,基于国产化基础软硬件,仅采用一个大模型,有效地提升机器的理解和生成能力,让AI接近人类智力。
“小初,请以天宫为主题作首诗吧?”“天宫生殿开成,万花垂露照初。稠云不掩国志,飞天当触明霞。”“你能看懂这个视频吗?”“视频中,火箭正在发射。”“小初,图片中航天员正在干什么?”
“航天员正穿着航天服站在机械臂上遨游太空。”……7月9日,在2021世界人工智能大会(WAIC2021)上,中国科学院自动化研究所所长徐波发布了自动化所研发的跨模态通用人工智能平台──“紫东太初”。
图文音全场景应用 自动学习
“紫东太初”平台是跨模态通用人工智能平台,以多模态大模型为核心,基于全栈国产化基础软硬件平台,可支撑全场景AI应用。“所谓跨模态是指它可以理解语音、文字和图片等多种模态信息;所谓全栈国产化是指这个平台的底层算力、模型、框架等都是自主研发的。”徐波解释道。
多种模态预训练模型被广泛认为是从限定领域的弱人工智能迈向通用人工智能路径的探索。依托面向超大规模的高效分布式训练框架,自动化所构建了具有业界领先性能的中文预训练模型、语音预训练模型、视觉预训练模型,并开拓性地通过跨模态语义关联实现了视觉、文本、语音三种模态统一表示,构建了三模态预训练大模型,赋予跨模态通用人工智能平台多种核心能力。
徐波介绍,“紫东太初”兼具跨模态理解和生成能力。与单模态和图片、文字两种模态相比,“紫东太初”采用一个大模型就可以灵活支撑图片、文字以及语音的全场景AI应用,具有了在无监督情况下多任务联合学习、并快速迁移到不同领域数据的强大能力。
“引入语音模态后的多模态预训练模型,可实现共性图片、语音和文字的空间表征和利用,并突破性地直接实现三模态的统一表示。”徐波说,特别值得强调的是,该平台首次让“以图生音”和“以音生图”成为现实,对更广泛、更多样的下游任务提供模型基础支撑,让AI能够在视频配音、语音播报、标题摘要、海报创作等更多场景实现应用。
改变单一范式 探AI研发新路径
“‘紫东太初’跨模态通用人工智能平台包括三大关键技术和六大核心能力。”徐波说,三大关键技术分别是多模态理解与生成多任务统一建模、面向国产化软硬件的高效训练与部署、多模态预训练模型架构设计与优化。六大核心能力则体现为多模态统一表示与语义关联、跨模态内容转化与生成、预训练模型网络架构设计、标注受限自监督模型学习、模型适配与分布式训练、模型轻量化与推理加速。徐波表示,“大数据+大模型+多模态”将改变当前单一模型对应单一任务的人工智能研发范式,多模态大模型将成为不同领域的共性平台技术,是迈向通用人工智能路径的探索,具有广阔的应用前景。
>友情链接: 2024韩国大学本科申请流程安徽省发布103项地方标准湖北:2022年为消费者挽回经济损失1.37亿元浙江杭州:开展电动汽车充电桩强制检定工作学雷锋见行动|山东济宁:开展食安检查志愿服务活动日本世界500强企业在日校招合集11吉林白山:行政约谈三大电信运营商安徽省市场监管局提示:卫生用品并非“越白越卫生”消费警示:提防家电售后服务三大问题同济加州伯克利土木工程申请重庆:强化全链条监管 市场秩序加快改善打通惠企“最后一公里”!上海率先上线电费小程序监管平台ssat slep 都要考吗?安徽:79件特色伴手礼亮相消费警示:提防家电售后服务三大问题霍普金斯金融硕士争议浙江台州:以数据运用为核心 实现智慧监管新突破湖北:2022年为消费者挽回经济损失1.37亿元韩国硕士留学费用指南加拿大森林保护硕士专业有哪些大学严抓新型网络犯罪 网络空间不容犯罪藏身全国“两会”用车体检须过37道关 电动车比例占10%美国新墨西哥州最佳大学深圳社会信用体系快速发展 助力制定高质量深圳标准【追梦·一线职工风采录】高压线上的“舞者”上海市杨浦区市场监管局严打非法“会销” 天烺公司、高寿康公司等被查处哥伦比亚大学法学评价安徽省发布103项地方标准同济加州伯克利土木工程申请多地要求老师亲自改作业 家校“作业矛盾”何解?日本世界500强企业在日校招合集122021年中央一号文件里的时间表美国新墨西哥州最佳大学加拿大留学一年费用人民币的详细分析美国班尼迪克大学留学安徽省发布103项地方标准2021年中央一号文件里的时间表深圳社会信用体系快速发展 助力制定高质量深圳标准ssat slep 都要考吗?湖北:2022年为消费者挽回经济损失1.37亿元