大模型+AIGC & 大模型+知识图谱 l CLM2024专题论坛日程详情

中国中文信息学会· 2024-06-11 · 内容存档(仅供参考,以主办方最新公告为准)

会议注册/Conference Registration

✦ 会议注册:https://www.cipsc.org.cn/Learn/index.aspx?itemid=4074


 专题论坛:大模型+AIGC   



论坛日程


08:30-09:30 

大语言模型背景下的NLP研究与人才培养

宗成庆研究员(中科院自动化所)

09:30-10:30 

语言大模型、强化学习智能体和人工智能

李航博士(字节跳动)

10:30-11:30 

大模型知识增强与生成

陈华钧教授(浙江大学)

11:30-12:30 

语言大模型生成能力评估与模型优化

李俊涛教授(苏州大学)


特邀报告:大语言模型背景下的NLP研究与人才培养

报告摘要:近年来以ChatGPT为代表的大语言模型成为举世关注的技术热点,它不仅成为人工智能领域新的研究范式,而且对各个领域和行业的产业化发展,甚至对整个人类社会都产生了极大的冲击和影响。那么,在这种形势背景下,自然语言处理(NLP)未来的出路在哪里?学术界从事自然语言处理研究将面临怎么的机遇和挑战?自然语言处理课程教学和人才培养该做怎么的取舍?本报告将围绕这些问题进行阐述和讨论,报告人结合自己团队的科研工作和实践阐述对相关问题的认识和思考。


宗成庆 研究员



中国科学院自动化研究所

讲者简介:

宗成庆,中国科学院自动化所研究员、博士生导师,IEEE/ACL Fellow,CAAI/CCF Fellow。他主要从事自然语言处理、机器翻译和语言认知计算等研究,主持国家自然科学基金重点项目和国家重点研发计划重点专项等10余项,发表论文200余篇,出版专著6部、译著两部。他目前担任国际计算语言学学会副主席(ACL Vice-President)、中国中文信息学会副理事长,曾任亚洲自然语言处理学会(AFNLP)主席、国际一流学术会议ACL 2015和COLING 2020程序委员会主席、ACL 2021大会主席,多次担任AAAI和IJCAI领域主席,曾任学术期刊ACM TALLIP 副主编(Associate Editor)、《自动化学报》副主编。曾获国家科技进步奖二等奖、北京市科学技术奖一等奖和教育部自然科学奖二等奖等。荣获北京市优秀教师、中国科学院优秀导师和中国科学院大学李佩教学名师等荣誉。享受国务院特殊津贴。


特邀报告:语言大模型、强化学习智能体和人工智能

报告摘要:语言大模型开启了人工智能的新时代,其达到的智能水平令人惊叹,更重要的是实现了AI技术的整合。我们现在可以通过一个统一的框架和手段来构建各种智能系统。这一统一框架是强化学习,而统一手段则包含了Transformer等技术。在本报告中,我将分享自己对语言大模型(LLM)、强化学习智能体(RL Agent)以及人工智能的一些观点,并介绍ByteDance Research最近的一些相关工作。以下是几个主要观点:1. 从RL Agent的角度可以统合所有AI技术。事实上,LLM可以看作是一种基于语言模型的RL Agent,具备语言和心智语言的生成能力。2. 可以将LLM与人类的交互形式化为基于语言的博弈,这个观点可以帮助我们开发出更强的LLM,如提升LLM的对齐能力。3. 将LLM与在形式语言上的推理相结合,能够形成更强的数学推理能力。4. 在LLM的基础上可以构建RL Agent,具有两层信息处理结构,以LLM为核心,内存、工具和多模态处理等为模块。如果LLM对应于System 1,那么这样的RL Agent则对应于System 2。

李航 博士



字节跳动

讲者简介:

李航,字节跳动研究部门负责人。ACM Fellow, ACL Fellow, IEEE Fellow。京都大学毕业,东京大学博士。曾就职于 NEC 公司中央研究所,微软亚洲研究院,华为技术有限公司诺亚方舟实验室。主要研究方向自然语言处理、信息检索、机器学习、数据挖掘。


特邀报告:大模型知识增强与生成

报告摘要:大型语言模型和知识图谱都是表示和处理知识的手段。大模型重规模,知识覆盖广泛,语言理解能力强,但训练代价大,可靠可控问题突出。知识图谱重表示,知识正确可靠,逻辑推理能力强,但规模扩展难,不容易泛化迁移。本报告首先分析了大模型与传统符号知识表示的优缺点,然后从知识增强预训练、知识增强提示指令、知识检索增强、大模型知识编辑等多方面探讨了符号知识对于增强大模型生成能力的最新研究进展,最后从“规模+表示”相融合的视角展望了符号知识增强的大模型生成的未来发展趋势。

陈华钧 教授



浙江大学

讲者简介:

陈华钧,浙江大学计算机科学与技术学院教授,博士生导师, 主要从事知识图谱、大语言模型、AI for Science等领域的研究工作,在Nature Machine Intelligence、Nature Communications、NeurIPS、ICML、ICLR、IJCAI、AAAI、ACL、EMNLP、KDD、Proc. IEEE等国际人工智能会议或学术期刊上发表多篇论文。牵头发起中文开放知识图谱OpenKG,曾获国际语义网会议ISWC最佳论文奖、国际知识图谱联合会议IJCKG最佳论文奖、浙江省科技进步二等奖、教育部技术发明一等奖、中国中文信息学会钱伟长科技奖一等奖、阿里巴巴优秀学术合作奖、中国工信传媒出版集团优秀出版物一等奖等。担任浙江省数智科技研究会副会长、中国人工智能学会知识工程专委会副主任、中国中文信息学会语言与知识计算专委会副主任、新华社媒体融合国家重点实验室学术委员会委员、Elsevier Big Data Research主编。入选浙江省有突出贡献中青年专家,浙江省高层次人才特殊支持计划(万人计划)科技创新领军人才,全球前2%顶尖科学家榜单(人工智能领域)。


特邀报告:语言大模型生成能力评估与模型优化

报告摘要:语言大模型生成能力的提升离不开准确可靠的评估反馈,人类评估的高成本和低效性已经成为现阶段制约模型能力发展的重要因素,而基于大模型的自动评估方法在复杂多样的对话场景下与人类专家有较大的差距,并且高质量评估数据的匮乏进一步限制了大模型评估能力的提升。针对以上现状,本次报告分享如何从现有数据优化、评估决策过程规划、采样方法、训练策略等方面实现高效、细粒度的评估和训练反馈,以优化模型解决复杂问题的能力。


李俊涛 教授



苏州大学

讲者简介:

李俊涛,苏州大学计算机科学与技术学院青年特聘教授,江苏省数据智能与先进计算重点实验室副主任,中国中文信息学会“大模型、大搜索与生成专委会”副秘书长,获得华为人才funding(60万奖教金),入选中国科协“第九届青年人才托举工程”,获得教育部-华为"智能基座"栋梁之师,微软亚洲研究院2022年“铸星计划”访问学者。2020年于北京大学获得博士学位,近年来在TPAMI、NeurIPS、ICLR、ICML、ACL等顶级会议和期刊上发表论文60篇,出版Fundations and Trends系列专著(期刊)1部,曾2次在CCF-A类会议上进行Tutorial报告。主要研究大模型、文本生成及相应的应用增强技术,代表性项目包括130B参数金融模型预训练方案、自研OpenBA系列预训练模型、基于国产算力的大模型训练优化及应用部署等,所做的研究得到了国自然、悟道基金、华为、阿里AIR项目等在内的10余项横纵向项目支持。



专题论坛:大模型+知识图谱



论坛日程


08:30-09:10 

大模型时代下的知识:现状、挑战与思考

李涓子教授(清华大学)

09:10-09:40 

大语言模型的超级对齐

黄民烈教授(清华大学)

10:00-10:30 

大语言模型的优化效率提升

王炳宁博士(百川智能)

10:30-11:00 

知识引导的大模型事实性幻觉消除

林鸿宇副研究员(中科软件所)

11:00-11:30 

大模型赋能知识图谱推理

吴天星副教授(东南大学)

11:30-12:30 

专题研讨:知否知否 - 大模型到底有哪些知识?

主持:许斌教授(清华大学)


特邀报告:大模型时代下的知识:现状、挑战与思考

报告摘要:知识获取与应用是人类智能的核心组成部分。目前,大模型在人工智能领域取得了突破性进展,包括大规模参数化知识和通用智能的能力。本报告将介绍我们通过如何理解和评测大模型的知识能力,讨论大型模型在语言深度理解和知识应用方面面临的挑战,最终给出我们对大模型在提升知识能力技术途径上的思考。


李涓子 教授



清华大学

讲者简介:

李涓子,博士,清华大学长聘教授,清华大学人工智能研究院知识智能中心主任,中国中文信息学会语言与知识计算专委会主任。研究方向为知识工程和自然语言处理。近年来在重要国际会议和学术期刊上发表论文100余篇,谷歌学术引用1万5千余次。获得2020年国家科技进步二等奖,2017年北京市科技进步一等奖,2023年电子学会科技进步一等奖。


特邀报告:大语言模型的超级对齐

报告摘要:随着ChatGPT、GPT-4等大语言模型的智能水平的提升,通用人工智能也越来越接近。但“越智能越危险”,大语言模型的安全性研究变得越来越重要:偏见歧视、隐私、滥用、伦理、价值观等各种安全性问题成为广泛关注的问题,人工智能治理也成为智能社会的亟待规范的课题。讲者将围绕大语言模型尤其是中文大语言模型、对话系统的安全性和超级对齐问题,阐述其在弱到强泛化(weak-to-strong generalization)、规模化监督(scalable oversight)、精确对齐、模型权重外插等方面的工作。

黄民烈 教授



清华大学

讲者简介:

黄民烈,清华大学长聘教授,国家杰青。长期从事大模型和自然语言处理研究。在国际顶级会议和期刊发表论文150多篇,谷歌引用近20000次,8次获得国际顶级会议最佳论文或提名奖。连续多年入选Elsevier中国高被引学者,AI 2000全球最有影响力AI学者榜单。曾获得中国人工智能学会吴文俊人工智能科技进步奖一等奖,电子学会科技进步奖一等奖,中文信息学会汉王青年创新奖等。研发多个对话大模型,包括心理大模型Emohaa、CharacterGLM等。


特邀青年报告:大语言模型的优化效率提升

报告摘要:由ChatGPT引领的大语言模型技术取得了非常大的进展,仅仅依靠下一个单词的预测这种简单的无监督训练方法,在很多任务上达到甚至超过了人类的水平。当前大语言模型效果提升的最重要的原理是Scaling law,即不断扩展模型参数量,不断扩大训练数据量。然而,依然能够通过引入一些优化的技术和手段在相同模型尺寸、相同数据量的情况下不断提升模型的效果。现在最新很多小尺寸比如2B 3B的模型已经能超过之前很多百亿甚至几百亿参数的模型效果了。这个报告将给大家介绍一下最近一些提升效率的预训练方案,也就是如何在相同资源下训练出来更好的模型效果。将从模型结构的优化,比如一些对Transformer的改进,训练方案的优化,以及数据的优化三个方面对当前的语言模型效率提升做出总结。


王炳宁 博士



百川智能

讲者简介:

王炳宁,百川智能预训练负责人。博士毕业于中国科学院自动化研究所,主要研究问答系统和大语言模型。历任搜狗、腾讯高级研究员,有着丰富大规模生成式模型经验,主导并发布如ReCO、ComQA、ChiQA、T2Ranking等大规模中文问答数据,以及Baichuan系列预训练模型。在ACL、SIGIR、AAAI等国际顶级人工智能和自然语言处理会议上以第一作者发表论文11篇,并获得2021年CIKM best paper runner up。博士论文《机器阅读理解关键技术研究》获2019年中国中文信息学会优秀博士论文奖。中国中文信息学会青年工作委员会委员。


特邀青年报告:知识引导的大模型事实性幻觉消除

报告摘要:事实性幻觉是大模型落地、迈向真实应用场景的核心挑战。本报告从幻觉检测和幻觉行为消除两个角度入手,探讨如何利用外部知识图谱信息,检测大模型生成过程中产生的幻觉,通过反馈学习帮助大模型避免幻觉行为,并通过知识验证进一步降低大模型生成事实性错误,从而提升大模型生成结果的可靠性。

林鸿宇 副研究员



中国科学院软件研究所

讲者简介:


特邀青年报告:大模型赋能知识图谱推理

报告摘要:现有的主流知识图谱推理方法为面向归纳的统计推理,其从数据出发,依据统计模型预测知识图谱中的潜在关系,主要分为端到端统计推理与可解释统计推理。在大模型时代,如何利用富含文本语义的外部参数化知识支撑端到端统计推理与可解释统计推理是值得探索的研究方向,因此本报告将介绍基于大模型的知识图谱推理前沿工作,从确定性知识图谱与不确定性知识图谱出发讨论相关难点及挑战。


吴天星 副教授



东南大学

讲者简介:

吴天星,东南大学计算机科学与工程学院长聘副教授,江苏省“双创博士”,江苏省“科技副总”,曾任新加坡南洋理工大学博士后研究员,2021年入选东南大学“至善青年学者”支持计划。主要研究方向:知识图谱、大语言模型、人工智能应用。曾获江苏省计算机学会优秀博士学位论文奖,CCKS 2022 Best Paper Award。主持国家自然科学基金面上项目、青年项目,江苏省“双创博士”项目等纵横向课题多项。在人工智能领域内国际期刊及会议发表论文50余篇,6项国家发明专利获得授权。担任中国中文信息学会语言与知识计算专委会委员,中国计算机学会信息系统专委会执行委员,CCF YOCSEF南京24-25年度主席,国际著名期刊IJSWIS、Data Intelligence编委及多个国际著名会议的(高级)程序委员会成员,包括AAAI、IJCAI、ACL、TheWebConf、SIGKDD、EMNLP、ISWC、ECAI等。


专题研讨:知否知否 - 大模型到底有哪些知识?


许斌 教授



清华大学

主持人简介:

许斌,清华大学计算机系研究员,博士生导师,国家“万人计划”科技创新领军人才。中国计算机学会计算机应用专委会荣誉主任。主要从事知识图谱和大模型方面的研究,主持多项国家科研项目,担任2023年中国计算机学会第38届中国计算机应用大会主席,2024全国知识图谱与语义计算大会和知识图谱国际联合会议的大会主席;是科技情报挖掘与服务系统AMiner与国产大模型ChatGLM的主要研制人之一。先后获得国家科技进步二等奖、中国人工智能学会科技进步一等奖、北京市科技进步一等奖等多个奖项。


本页为内容存档快照,版权归原作者所有。查看来源 ›