发布日期：2024-07-20 00:39 点击次数：200
对于“9.11和9.9哪个大”，这么沿途小学生难度的数学题难倒了一众海表里AI大模子。7月17日哥哥射首页，第一财经报说念了国表里“12个大模子8个齐会答错”这说念题的征象，大模子的数学才略引发磋磨。
“从时刻东说念主员的角度看答错这个问题并不讶异。”在采访中，阿里通义实验室居品司理王晓明对第一财经默示，访佛的问题是一个常见的数学想到打算和逻辑推理的问题，亦然在模子进修和使用的历程中研发者常进行测试的case（案例），大模子“答对”或“答错”其实是个概率问题。
除了通义千问外，第一财经记者也磋议并采访了多家大模子厂商，腾讯混元团队、月之暗面Kimi、MiniMax海螺、学而念念九章、网易有说念等齐在采访中解答了大模子数学差的问题。
详细回复来看，大模子厂商联系慎重东说念主提到的不雅点包括，大模子还莫得精确掌控数字间的运算或比拟章程，同期，东说念主类对大模子的才略探索处于卓绝早期的阶段。多名业内东说念主士觉得，畴昔需要增强底层基础模子的智能水平，以及从进修数据层面和外部器具层面去惩办这么的过错，最终决议可能是升迁下一代模子的才略。
本日志者对大模子进行了再次测试，发现大宗大模子比拟数字大小的才略仍然不褂讪。不外，有大模子厂商联系东说念主士提到，行业正在对数学才略进行特殊优化。
“大模子出错以及此前大模子在高考数学卷中拿分低，可能是因为所测的模子比拟老，这些模子莫得在数学方面作念太多优化，当今业界对此有所青睐，优化后着力如故有升迁空间。”大模子建树者刘亮（假名）告诉记者。
答对答错是概率问题
7月18日，第一财经记者再次测试了12个大模子，发现AI的谜底并不褂讪，不少大模子即即是用并吞个问法测试也会时对时错，数字法令换一下谜底有可能就有变化。
在发问“9.9和9.11哪个大”时，百度文心一言、腾讯元宝、智谱清言、MiniMax海螺AI、百川智能百小应5个大模子问答对了，GPT-4o、阿里通义、月之暗面Kimi、阶跃星辰跃问、字节豆包、商汤接头、零一万物万知7个大模子答错了。
当记者将数字法令换为“9.11和9.9哪个大”时，GPT-4o和阶跃星辰跃问又部分答对了。同期，不同的东说念主用并吞个大模子问相通的问题，也会有两种谜底，比如通义千问、海螺AI在两位记者的测试中，一位测试发现输出谜底准确褂讪，另一位在测试时则收到了弊端的谜底。
不褂讪的输出背后，大模子的架构和运行机制是中枢问题，这导致AI的回答并不是每次齐一样。
王晓明告诉记者，大模子并不会像东说念主类一样把“9.11和9.9哪个大”动作比大小的问题，大模子的解答方式是“揣度下一个词”。从旨趣上看，目下包括通义千问等大模子大多基于Transformer架构，时刻旨趣内容上是作念“Next Token Prediction”，即通过面前输入的文本揣度下一个词出现的概率来进行进修和回答。
因此，从概率的角度看，大模子的准确率不可能作念到100%。王晓明默示，即便用户每次问疏导的问题，大模子的回答和准确率可能齐是变动的，大模子“答对”或“答错”其实是个概率问题。
腾讯混元团队有访佛的见地。“大模子全称是言语大模子，从海量文本里学习多样言语知识。它是一个概率模子，将输入文本调遣成一个个token（词元），然后去揣度下一个token，并不精确的掌执数字之间的运算或比拟章程（缺少这类数学知识）。” 腾讯混元团队默示。
腾讯混元团队告诉记者，给定9.11、9.9，大模子可能就按言语意会觉得极少点11比9大，从而弊端地判断9.11大于9.9。由于大模子本人是一个概率模子，要让它在多样情况下齐能褂讪的惩办这种数值想到打算或比拟问题比拟难。
发问手段很广泛哥哥射首页
基于大模子的中枢架构和运行机制问题，发问的手段也会很猛进度影响模子的意会，从而影响谜底的准确度。
“大模子不以东说念主类的念念路意会问题，在东说念主类的意会里，9.11大如故9.9大这个问题很简短，但在数字的宇宙里这个问题是依稀的。”刘亮觉得，在大模子的意会里，东说念主类问的问题能够不够精确，数字有多种进制，也有不同指代，大模子要从什么角度回答齐是问题。
MiniMax海螺AI居品司理起迪提到，“题目中的数字形态访佛于日历或版块号，模子在处理数字、字符串等数据时容易产生弊端。”另别称大模子从业也告诉记者，“大模子也有可能是看多了版块号，觉得9.11版块比9.9版块更新，或者是对这两个数字有其它梦想。”。
“它（大模子）内容上如故一个言语模子，它从言语数据中学习的是统计联系性，而这使它不擅长作念章程学习，从而不擅长归纳推理。”网易有说念首席科学家段亦涛也对第一财经默示，大模子可能在语料中看到版块号、日历、书的章节等样例，而在这种场景下，9.11实在是比9.9大，是以它可能给出弊端的谜底。
段亦涛默示，目下大模子不具有纯果真inductive bias（归纳偏倚）的机制，访佛9.11和9.9哪个大，以及算数运算、奇偶校验、字符串复制等其他的任务，齐属于inductive inference（归纳推理）的任务。从机器学习的角度来看，要是但愿大模子得回这么的才略，需要一个归纳学习的历程。
学而念念CTO田密觉得，在大模子的意会中，9.11可能被拆分为“9”“.”和“11”，而9.9被拆分为“9”“.”“9”，这内部11确乎比9要大。但要是改下问法，问大模子“哪个数字更大？9.9如故9.11”，或者让大模子step by step（冉冉）分析，大模子可能就能作念对，“这是因为大模子意会用户是要问一个数学题了，是以就会倾向于去用一个解数学题的方式去解。”
王晓明在采访中也分析了这一征象，他觉得，这与模子本人预置的数理逻辑包括进修数据等均关系，大模子在进修阶段遭逢的场景要是更接近“哪个更大？9.11和9.9”，它回答这种问法的准确率就会更高。
记者测试发现，部分大模子确乎会因为准确地形色问题、发问手段而编削为正确的回答，但不是对通盘大模子齐有用。
记者商酌ChatGPT-4o时，要是平直发问“9.9和9.11哪个大”，这么的问法大模子的谜底就是弊端的，但要是发问的内容改成“哪个数字更大？9.11如故9.9”，ChatGPT会平直给出正确的谜底。
记者将范围设定为严谨的十进制下的数字比拟，Kimi得出的谜底依然是9.11比9.9大。
记者也测试了零一万物万知，即便欺压为数学语境下的数字比拟（幸免版块、日历的语境），万知仍然答错，关联词要是编披缁问方式，条目大模子“给出解答念念路”（即step by step分析的方式），同期默示答对答错会授奖励或刑事株连（强调谜底的广泛性），万知就答对了。
性高潮
在大模子的答题测试中，一个意旨的征象是，当模子回答弊端，发问者质疑或者否定后，大宗大模子齐会转而承认弊端，并给出了正确解答历程和谜底。
对于这种“矫正”才略，王晓明阐明，这一方面是大模子揣度的就地性，第二循环答本就有出现正确谜底的可能，另一方面，由于大模子具备凹凸文意会才略，使用者的追问试验就访佛一个调教大模子的历程，大模子会字据使用者的追问作为其下一轮揣度的基础，提高其准确率。
腾讯混元团队告诉记者，面前大模子大多具备反念念才略，当用户质疑大模子谜底的期间，引发了大模子的反念念才略，它会尝试去修正开动回答或尝试用另一种念念路解题，从而升迁解答正确的概率。
起迪将这追思为一种触及念念维链的手段，通过辅导模子冉冉长远念念考，模子能够提供更详备的解题措施，这在惩办数学等复杂问题时有助于得回正确谜底。“用户与AI之间的多轮对话内容上可以视为一种念念维链，模子戒备会问题后会愈加严慎地进行推导，从而提高解答正确率。”起迪说。
绝对惩办需要大模子升级
答不出“9.9和9.11哪个大”的简短数学问题，但又可以帮东说念主类作念PPT、惩办代码编程等复杂问题，折射出面前大模子的才略并不平衡。
腾讯混元团队告诉记者，对东说念主类而言不难、但对大模子而言很难的问题还有不少，比如访佛“I looooooove you”里有若干个o“这么的问题，这种数数问题是一个难点。此外，较大或位数比拟多的极少想到打算（触及多位数的四则运算等），又如触及知识和想到打算的单元调遣问题（举例0.145吨等于若干磅），以及往时常测的”林黛玉倒拔垂杨柳问题等知识或知识开导型问题对大模子而言比拟难。
就难回答的数学问题，业内已在念念考大模子本人的局限和惩办决议，大模子还未从压根上迭代的情况下，惩办决议包括用户自身提高发问准确性、现存大模子采取一些取巧的措施。
“绝对惩办如故要靠下一代模子升级，当今要惩办需要通过hack（取巧）的方式。但换个问法、换个言语来问，可能如故会出问题。”有大模子从业者告诉记者。临时惩办决议包括System Prompt（系统教导），可以简短意会为辅导大模子在固定范围内回答问题。
“举例告诉大模子，当遭逢数字比拟问题的期间，要是莫得更多凹凸文，就默许当成双精度浮点数，先补全空位，再从左到右循序比拟。”上述大模子从业者告诉记者。
王晓明则坦言，大模子的禁闭如故在言语方面，尽管时刻团队已在关怀大模子在数学、物理等逻辑性场景下的才略升迁，但大模子在这一方面存在着本人才略的适度。他告诉记者，使用大模子的历程中，用户发问方式、教导词的优化也会影响到大模子回答的准确率，用户可在大模子使用中描述更多发问场景、回答范围等。
而要绝对惩办大模子数学才略差的问题，业内东说念主士觉得，数学才略不及的一大原因是大模子进修数据中数学联系的数据占比少，要从根源上惩办数学才略差的问题，需要从此动手。
刘亮告诉记者，大模子算不出简短数学题，也作念不好高考数学试卷，压根上是因为模子才略不及，但这并不是实足不行惩办。此前业内对大模子数学方面才略的优化较少，在数学推理方面花的元气心灵较少。作念进修语料筛选时，东说念主们从互联网等地点获取数据，其中数学联系的数据占比卓绝少，选得较多的是天然言语联系的语料。当进修数据莫得相宜配比和筛选时，大模子参数中数学联系的只分了很少一部分，着力天然不好。
“但大模子仍是展现出较好的逻辑才略，举例写代码才略还可以，加上业内对大模子数学才略渐渐青睐起来，通过选用更优质的进修数据、用更好的算法，我觉得大模子数学方面的后劲如故很高。”刘亮默示，天然业内也有质疑大模子揣度下一个词元的方式能否作念好数学题的声息，但这种方式还有许多后劲待挖掘，天花板还不行慑服。
腾讯混元团队觉得，要克服大模子不懂数学的问题，一个主要的时刻优化点就是给大模子高质料的规模（包括数学）知识数据进修，使其能够学习到规模里的各类知识。
在测试“9.9和9.11哪个大”的问题时，学而念念的九章大模子(MathGPT)给了对的谜底，田告讦诉记者，九章大模子的特色是针对数学进修了鼓胀多的数据，何况这些数据是用AI合成的数据，再来进修AI，大模子的透露历程是模拟学生学习数学的历程，一步步推导。
田密觉得，就数学方面训诫规模的容错率较低，训诫科技公司有鼓胀多、专科的数学数据去作念进修，“通用大模子把这说念题当成一个通用的题来处理，而针对数学规模进修的九章大模子知说念它是沿途数学题，可以用数学的方式一步步推理。”
提供高质料进修数据以外，腾讯混元团队告诉记者，另一个时刻优化点是集成外部器具才略（举例想到打算器、代码奉行器等）来拓展模子才略，进一步提高惩办问题的着力和准确性。起迪也相通提到，大模子要是在经受到一些数学问题时，能够主动调用器具来解答，就可以大幅提高准确率。
在月之暗面的陈说中，联系慎重东说念主提到，咱们东说念主类对大模子的才略探索齐还处于卓绝早期的阶段，不论是大模子能作念到什么，如故大模子作念不到什么。 “咱们卓绝期待用户在使用中能够发现和讲明更多的规模案例(Corner Case)。不管是最近的‘9.9和9.11哪个大、13.8和13.11哪个大’哥哥射首页，如故之前的‘strawberry有几个r’，这些规模案例的发现，有助于咱们增多对大模子才略规模的了解。”