可汗学院创始人萨尔曼·可汗：生成式AI本身是中立的，它只是人们意图的延伸_新浪财经

　　新浪财经ESG评级中心提供包括资讯、报告、培训、咨询等在内的14项ESG服务，助力上市公司传播ESG理念，提升ESG可持续发展表现。点击查看【ESG评级中心服务手册】

　　2023ESG全球领导者大会9月13至15日在上海黄浦区绿地外滩中心举行，本次大会主题为“可持续的经济增长、社会发展和环境保护”，由新浪财经、中信出版集团主办，老凤祥联合主办，上海市经济和信息化委员会、上海市黄浦区人民政府特别支持。可汗学院创始人、CEO萨尔曼·可汗（Salman Khan）发表了演讲。

　　“可汗学院是一个非营利组织，致力于让世界上任何地方的任何人都能免费得到世界级的教育，创办可汗学院最初源自为家人提供学业辅导。一开始我只给亲戚提供辅导，后来也开始为不是亲戚的人提供辅导，我为他们制作视频、为他们提供个性化软件。”萨尔曼·可汗说。

　　萨尔曼·可汗表示，自己的教育背景最初是在技术方面，然后是金融，后来一直从事辅导服务。

　　“我的目标，现在也是可汗学院的目标——我们提供50多种语言的服务，覆盖超过1.5亿注册用户，但我们的目标始终如一：我们会问自己，什么是世界级的教育，我们如何能够接近这样的教育水平，并能够将其提供给数千万，甚至数十亿人？”萨尔曼·可汗说。

　　据介绍，可汗学院的做法包括提供可汗学院视频、提供个性化软件、帮助学生实现精熟学习等。

　　“精熟学习只是一种花哨的说法，意思是如果学生尚未掌握某个概念，要让他们有机会和动力继续努力学习它。”萨尔曼·可汗说。

　　萨尔曼·可汗解释，在传统的教学体系中，学生可能在一次考试中考到70分，这意味着他有30%的内容并不理解。但整个班级接下来会继续进行下一个概念的学习。而学习的内容，常常正好是基于学生不理解的那30%的内容。

　　在他看来，这个过程会在学生的一生中不断发生，他们会不断积累不理解的内容，最终在学业上遇到困难。

　　“但我们在可汗学院一直坚信，学生应该尽量在自己的时间和节奏下学习，如果他们有些概念不理解，比如他们理解到了70%或者80%的水平上，他们应该被允许继续学习这些概念，进行练习获得反馈，将理解水平提升到100%。”萨尔曼·可汗说。

　　萨尔曼·可汗认为，在很多方面，这近似于一位优秀的家教会做的事情。有资源的家庭经常会请家教，家教会一直帮助学生，直到他们完全掌握这些概念。在他看来，之所以这不是主流的教育方式，是因为成本太高，但可汗学院一直在努力通过技术、软件、视频等途径来接近精熟学习的方式。

　　“到了去年，出现了生成式AI，它引起了所有人的注意。实际上，我们在将近一年前就与OpenAI签署了保密协议。这远早于ChatGPT向大众公布的时间，我们当时就在GPT-4的版本上进行了研发。许多人都知道，ChatGPT最初向公众公布的免费版本是基于GPT-3.5的，而不是GPT-4的，即使现在免费版本也是基于GPT-3.5的。”萨尔曼·可汗说。

　　萨尔曼·可汗表示，当看到GPT-4的能力时——它存在着一些缺陷，会出现幻觉，会在数学方面出现错误，对于安全性、隐私、学生作弊等问题，会和大家一样有一些疑虑，但也看到了一个机会，通过适当的安全机制、适当的防护措施和适当的基础设施和工程设计，大语言模型实际上可以充当近似于优秀的家教或优秀的教学助手的角色，甚至能够做到更多。

　　因此，可汗学院经过过去一年的努力，推出了称之为“Khanmigo”的生成式AI家教和教学助手。

　　“我们是在今年3月，与GPT-4同时推出Khanmigo。我知道人们对生成式AI有许多担忧，其中一些是合理的，包括大家都知道的，我们必须担心它可能被用于欺诈，我们必须担心它可能被学生用于作弊，但我们希望展示，并且我们也已经利用数以万计的用户展示了——包括一些主流学区也在使用我们的产品，且我们的产品可以跨越不同种类的语言使用，你可以真正使用生成式AI来让孩子们持续学习，不是告诉他们答案，而是以苏格拉底的方式引导他们。”萨尔曼·可汗说。

　　帮助学生解开难题，帮助教师制定课程计划，批改试卷，制定评分标准，编写进展报告，和做其他能让教师们节省时间和精力，更好地为学生服务的事情……

　　萨尔曼·可汗表示，使用生成式AI，即使是在写作这样的事情上，也能做到不仅能够支持学生们并为他们提供反馈，还可以帮助减轻作弊问题。

　　“ChatGPT并不是为教育而创造的，它可以被用于作弊。但当学生在Khanmigo上写论文时，Khanmigo可以向教授或老师汇报，而且不仅仅汇报论文本身，还包括学生完成论文的过程。”萨尔曼·可汗表示，人工智能会说：

　　“嘿，我和学生一起合作完成了这篇论文。我们一起合作了四个小时，我们在写论点陈述时遇到了困难，但最终成功了。”

　　萨尔曼·可汗指出，从AI助手那里看到了这样的反馈，教师就可以确定，这确实是他们自己学生的作品。而如果学生去找ChatGPT生成论文，将其复制粘贴到Khanmigo中，那么Khanmigo会告诉教师：

　　“嘿，我没有和学生一起合作写这篇论文。它只是从某个地方冒出来的，我怀疑可能存在作弊。”

　　萨尔曼·可汗表示，“我们正在从多个维度研究生成式AI，希望能够支持学生、支持教师、减轻作弊，并且我们也在不断寻找更好的支持方式，做到甚至超越优秀的家教所能做到的事情。”

　　在Khanmigo上，学生可以与历史人物或文学人物的模拟角色交谈；可以与人工智能进行辩论，练习逻辑思维能力；可以使用人工智能作为职业或学术导师，或者将其用于模拟面试类的场景，无论是面试他人还是接受面试。

　　萨尔曼·可汗认为，现在仍然处于一个早期阶段。而自己正在做一些事情，如为AI添加记忆，执行文本到语音或语音到文本的转换。

　　“两三年后，我认为人们可以像和人类交谈一样和AI家教或者教学助手交谈。我个人认为现在是一个非常令人兴奋的时刻，但这也是一个我们必须小心谨慎的时刻，AI肯定会带来一些负面的副作用。但我和我的人讲的是，我们绝不能坐等会发生什么，肯定会有一些人会有负面的意图，他们会以对人类不利的方式使用生成式AI。但生成式AI本身是中立的，它只是人们意图的延伸。”萨尔曼·可汗说。

　　在萨尔曼·可汗看来，ESG社区、关注社会和教育的社区里的所有人都必须投身其中，因为这些关心人类，希望用合伦理的方式使用AI并为人类做出贡献的人，如果能够主动地、小心谨慎地利用AI，就一定有机会利用这个技术的转折点，减轻风险并真正最大化益处，可以利用人工智能AI，来提高HI，即人类智慧和潜力。

　　以下为演讲实录：

　　大家好，我是萨尔曼•可汗，可汗学院的创始人。非常荣幸能够与参加ESG全球领导者峰会的各位交流。

　　正如大家所知，可汗学院是一个非营利组织，致力于让世界上任何地方的任何人都能免费得到世界级的教育。

　　我相信，我们的事业目标与峰会上所讨论的许多主题是非常一致的。

　　此次峰会召开的时间也非常有趣。许多人知道，我创办可汗学院最初源自为家人提供学业辅导。我的教育背景最初是在技术方面，然后是金融，不过后来我一直在从事辅导服务。

　　一开始我只给亲戚提供辅导，后来也开始为不是亲戚的人提供辅导，我为他们制作视频、为他们提供个性化软件。

　　我的目标，现在也是可汗学院的目标——可汗学院远不止我一个人，我们提供50多种语言的服务，覆盖超过1.5亿注册用户，但我们的目标始终如一：

　　我们会问自己，什么是世界级的教育，我们如何能够接近这样的教育水平，并能够将其提供给数千万，甚至数十亿人？

　　可汗学院过去的做法包括提供可汗学院视频、提供个性化软件、帮助学生实现精熟学习等。

　　精熟学习只是一种花哨的说法，意思是如果学生尚未掌握某个概念，要让他们有机会和动力继续努力学习它。

　　我们知道，在传统的教学体系中，学生可能在一次考试中考到70分，这意味着他有30%的内容并不理解。但整个班级接下来会继续进行下一个概念的学习。

　　而学习的内容，常常正好是基于学生不理解的那30%的内容。仿佛期望学生即使没有理解更基础的内容，也能一下子理解新内容。

　　这个过程会在学生的一生中不断发生，他们会不断积累不理解的内容，最终在学业上遇到困难。

　　但我们在可汗学院一直坚信，学生应该能够尽量在自己的时间和节奏下学习，

　　如果他们有些概念不理解，比如他们理解到了70%或者80%的水平上，他们应该被允许继续学习这些概念，进行练习、获得反馈，将理解水平提升到100%。

　　在很多方面，这近似于我们认为一位优秀的家教会做的事情。从历史上看，有资源的家庭经常会请家教，家教会一直帮助学生，直到他们完全掌握这些概念。

　　之所以这不是主流的教育方式，是因为成本太高，但我们一直在努力通过技术、软件、视频等途径来接近精熟学习的方式。

　　而到了去年，我们知道，出现了生成式AI，它引起了所有人的注意。实际上，我们在将近一年前就与OpenAI签署了保密协议。

　　这远早于chatGPT向大众公布的时间，我们当时就在GPT-4的版本上进行了研发。许多人都知道，chatGPT最初向公众公布的免费版本是基于GPT-3.5的，而不是GPT-4的，即使现在，免费版本也是基于GPT-3.5的。

　　但当我们看到GPT-4的能力时——它存在着一些缺陷，会出现幻觉，会在数学方面出现错误，对于安全性、隐私、学生作弊等问题，我们和大家一样有一些疑虑，

　　但我们也看到了一个机会，通过适当的安全机制、适当的防护措施和适当的基础设施和工程设计，

　　大语言模型实际上可以开始近似于优秀的家教或优秀的教学助手的角色，甚至能够做到更多。

　　因此，我们过去一年里，一直在努力工作，最后推出了我们称之为“Khanmigo”的生成式AI家教和教学助手。

　　我们是在今年3月，也就是2023年3月，与GPT-4同时推出的Khanmigo。我们想要展示，我知道人们对生成式AI有许多担忧，其中一些是合理的，

　　包括大家都知道的，我们必须担心它可能被用于欺诈，我们必须担心它可能被学生用于作弊，但我们希望展示，并且我们也已经利用数以万计的用户中展示了——包括一些主流学区也在使用我们的产品，且我们的产品可以跨越不同种类的语言使用，

　　你可以真正使用生成式AI来让孩子们持续学习，不是告诉他们答案，而是以苏格拉底的方式引导他们，帮助他们解开难题，帮助教师制定课程计划，批改试卷，制定评分标准，编写进展报告，和做其他能让教师们节省时间和精力，更好地为学生服务的事情。

　　我们还想展示，使用生成式AI，即使是在写作这样的事情上，我们也能做到不仅能够支持学生们并为他们提供反馈，还可以帮助减轻作弊问题。

　　ChatGPT并不是为教育而创造的，它可以被用于作弊。但当学生在Khanmigo上写论文时，Khanmigo可以向教授或老师汇报，而且不仅仅汇报论文本身，还包括学生完成论文的过程。

　　人工智能会说，嘿，我和学生一起合作完成了这篇论文。我们一起合作了四个小时，我们在写论点陈述时遇到了困难，但最终成功了。

　　阐述论证的方面，我帮助了学生一点。从AI助手那里看到了这样的反馈的教师就可以确定，这确实是他们自己学生的作品。

　　而如果学生去找ChatGPT生成论文，将其复制粘贴到Khanmigo中，那么Khanmigo会告诉教师，嘿，我没有和学生一起合作写这篇论文。它只是从某个地方冒出来的，我怀疑可能存在作弊。

　　我们正在从多个维度研究生成式AI，希望能够支持学生、支持教师、减轻作弊，并且我们也在不断寻找更好的支持方式，做到甚至超越优秀的家教所能做到的事情。

　　在Khanmigo上，学生可以与历史人物或文学人物的模拟角色交谈，他们可以与人工智能进行辩论，练习逻辑思维能力。

　　他们可以使用人工智能作为职业或学术导师，或者将其用于模拟面试类的场景，无论是面试他人还是接受面试。

　　我们认为现在仍然处于一个早期阶段，我们正在做一些事情，比如为AI添加记忆，执行文本到语音或语音到文本的转换。

　　两三年后，我认为人们可以像和人类交谈一样和AI家教或者教学助手交谈。

　　我个人认为现在是一个非常令人兴奋的时刻，但这也是一个我们必须小心谨慎的时刻。AI肯定会带来一些负面的副作用。

　　但我和我的人讲的是，我们绝不能坐会发生什么。肯定会有一些人会有负面的意图，他们会试图以对人类不利的方式使用生成式AI。

　　但生成式AI本身是中立的，它只是人们意图的延伸。

　　因此，我认为我们ESG社区、关注社会和教育的社区里的所有人都必须投身其中，

　　因为我认为我们这些关心人类，希望用合伦理的方式使用AI并为人类做出贡献的人，如果能够主动地、小心谨慎地利用AI，

　　我们就一定有机会利用这个技术的转折点，减轻风险并真正最大化益处。

　　我们可以利用人工智能AI，来提高HI，即人类智慧和潜力。谢谢大家。

　　新浪财经ESG评级中心简介

　　新浪财经ESG评级中心是业内首个中文ESG专业资讯和评级聚合平台，致力于宣传和推广可持续发展，责任投资，与ESG（环境、社会和公司治理）价值理念，传播ESG的企业实践行动和榜样力量，推动中国ESG事业的发展，促进中国ESG评估标准的建立和企业评级的提升。

　　依托ESG评级中心，新浪财经发布多只ESG创新指数，为关注企业ESG表现的投资者提供更多选择。同时，新浪财经成立中国ESG领导者组织论坛，携手中国ESG领导企业和合作伙伴，通过环境、社会和公司治理理念，推动建立适合中国时代特征的ESG评价标准体系，促进中国资产管理行业ESG投资发展。