媒体报说念，在OpenAI 发布其首个“推理”AI模子o1不久后，有用户审视到一种奇怪的景况：即使用户是用英语发问，这一模子无意会在回应问题时转眼“转而用”汉文、波斯语或其他谈话“想考”。
举例，当被问及“单词‘strawberry’中有几许个‘R’？”时，o1会运转其“推理”经由，通过一系列推理步履得出谜底。若是问题是用英语写的o1的最终回应会是英语，但在得出论断之前，它可能会在某些步履中使用其他谈话。
一位Reddit用户暗示，“o1在半途立地地运转用汉文想考。” 另一位用户在X发文参谋：“为什么o1会立地运转用汉文想考？整段对话（非凡5条信息）皆莫得使用汉文。”
OpenAI尚未对o1的这种奇怪步履作出讲授，也莫得庄重承认这一景况。AI巨匠对此也莫得明确谜底，但他们提倡了一些揣测。
使用汉文数据标注引起？
包括 Hugging Face 的首席扩充官 Clément Delangue等东说念主暗示，像o1这么的推理模子禁受了大皆包含中翰墨符的数据测验。谷歌DeepMind的酌量员Ted Xiao宣称，包括OpenAI在内的一些公司使用中国的第三方数据标注奇迹，而o1转向汉文可能是“推理经由中受到汉文谈话影响”的一个例子。
Ted Xiao在X上写说念：
“OpenAI和Anthropic等现实室期骗[第三方]数据标注奇迹，为科学、数学和编程界限的高水平推理数据提供因循，而好多数据提供商皆位于中国。”
在AI测验界限，标注（Labels，也称为标签或注解）在测验经由中匡助模子相识和讲授数据。举例，用于测验图像识别模子的标注可能包括为对象周围添加标志，或为图像中的每个东说念主、场合或物体提供描述。
酌量标明，带有偏见的标注可能会导致带有偏见的模子。举例，等闲标注员更可能将非圭臬英语（如好意思国黑东说念主英语，AAVE）标志为“不健康”（toxic）谈话，这导致基于这些标注测验的AI毒性检测器更倾向于以为AAVE 是“不健康”的。
不外，也有一些巨匠并不招供“汉文数据标注”的揣测。他们指出，o1雷同可能在措置问题时切换到印地语、泰语或其他谈话。
AI只想使用最高效的谈话来想考？
另一种不雅点以为，配资开户o1和其他推理模子可能仅仅使用了它们以为最能有用达成其筹划的谈话（或出现了幻觉）。
阿尔伯塔大学的助理讲授、AI 酌量员Matthew Guzdial在禁受TechCrunch采访时说，“模子并不知说念谈话是什么，也不知说念谈话之间有分裂。对它来说，这些仅仅文本辛勤。”
内容上，模子并叛逆直处理单词，而是处理“标志”（tokens）。标志不错是单词（举例“fantastic”），也不错是音节（举例“fan”、“tas”和“tic”），以致是单词中的单个字符（举例“f”、“a”、“n”、“t”、“a”、“s”、“t”、“i”、“c”）。
像标注一样，标志也可能引入偏见。举例，好多从单词到标志的疏导器假定句子中的空格暗示一个新单词的运转，而内容上并非扫数谈话皆使用空格来分隔单词。
Hugging Face的软件工程师Tiezhen Wang赞同这一不雅点，以为推理模子的谈话不一致性可动力于模子在测验时辰与特定谈话缔造的某些关系。
“通过遴荐每一种谈话的幽蒙胧别，咱们膨大了模子的天下不雅，使模子简略全面学习东说念主类常识。举例，我可爱用汉文作念数学，因为每个数字只消一个音节，这让贪图更简约高效。但在酌量诸如‘不测志偏见’之类的话题时，我会自动切换到英语，因为我领先等于通过英语学习和摄取这些看法的。”
AI模子是概率机器，通过大皆示例的测验学习时势，并据此作出展望。但是，非盈利组织艾伦东说念主工智能酌量所的酌量科学家Luca Soldaini训诫说，“咱们无法细则模子里面的运行逻辑。对依然部署的AI系统进行这类不雅察，由于其高度不透明性，是无法因循任何论断的。这也讲解了为什么在构建AI系统时保握透明性至关迫切。”