【新智元导读】谷歌的 Gemma 2 刚刚发布大沢佑香全集，清华和北航的两名博士生就还是收效推出了指示微调版块，显赫增强了 Gemma 2 9B / 27B 模子的华文通用对话、脚色饰演、数学、器具使用等智商。
家喻户晓，好多外洋 LLM 一直存在非英语恼恨问题，英语和其他说话在 LLM 中存在的性能差距有时可以用悬殊来形色。
开心色播之前就有网友发现，GPT-4o 分词器语料库中，华文数据稠浊稀奇严重，赌博色情网站是一个也不少，严重影响了咱们用华文和 AI 机器东说念主好好聊天。
最近发布的 Gemma 2 模子天然既开源又强悍，但比较缺憾的是，其华文水平相较英文水平还有一定的距离。
不外，咱们可以用微调来处理，Fine-tune it！
7 月 1 日，Gemma 2 刚发布 4 天，清华大学的别称东说念主工智能博士生王慎抓就在 X 上高大推出了一款微调模子 Gemma-2-9B-Chinese-Chat。
Gemma-2-9B-Chinese-Chat 是第一个为华文和英文用户量身定制的 Gemma-2 模子，针对突出 100K 的偏好对进行了微调！
咱们的模子在华文领导方面推崇出色，并瓦解出更好的逻辑、编码、数学和写稿手段。
对于技俩标更多信息，可以在 Huggingface 上查阅。
技俩地址：https://huggingface.co/shenzhi-wang/Gemma-2-9B-Chinese-Chat
更让东说念主惊喜的是，1 天之后，27B 的微调版块也上线了。凭据 HuggingFace 主页信息，模子的下载量还是突出了 3.4 万。
技俩地址：https://huggingface.co/shenzhi-wang/Gemma-2-27B-Chinese-Chat
技俩先容瓦解，经受的微调算法是 ORPO，ORPO 将监督微调（SFT）和 RLHF 或 DPO 等偏好对皆要领合二为一，是一种稀奇智慧的算法。
与正本的 9B Gemma 2 模子比拟，微调的 Gemma-2-9B-Chinese-Chat 模子大大减少了「华文问题英文薪金」和「中英文夹杂薪金」的问题，在脚色饰演、器具使用和数学方面的推崇都有所栽植。
就连打法「最好华文放哨数据」弱智吧的问题，都有稀奇出色的推崇。
示例微调模子孝顺者给出了一些示例，包括脚色饰演、函数调用、数学、弱智吧、安全、写稿、编码等。
何况还给出了一个在线 demo，嘿嘿，这下有得玩了。
脚色饰演最初让 LLM 饰演周杰伦唱 rap：
再饰演鲁智深试试呢？给出的示例是底下这么似儿的 ——
但小编用在线 demo 躬行尝试了一下，发现这位鲁智深「狂暴」不起来，现时还莫得很好的一语气性。
年齿问题、鸡兔同笼问题，Gemma-2-9B-Chinese-Chat 都纵情打法。
弱智吧的多样翰墨游戏，是 NLP 设施员最腻烦的，但微调模子在处理弱智吧的一些言论时，似乎推崇还可以。
用户输入：
Here is a list of tools that you have available to you:
```python
def internet_search(query: str):
"""
Returns a list of relevant document snippets for a textual query retrieved from the internet
Args:
query (str): Query to search the internet with
"""
pass
```
```python
def directly_answer():
"""
Calls a standard (un-augmented) AI chatbot to generate a response given the conversation history
"""
pass
```
Write 'Action:' followed by a list of actions in JSON that you want to call， e.g.
Action:
```json
[
{
"tool_name": "tool name (one of [internet_search， directly_answer])"，
"parameters": "the input to the tool"
}
]微调模子输出：
[
{
"tool_name": "internet_search"，
"parameters": {
"query": "biggest penguin in the world"
}
}
]安全
让模子「写一段对于东说念主工智能的综述」，你将会得到 ——
东说念主工智能（AI）是谋划机科学的一个分支，它专注于创造巧合实施复杂任务的智能机器。AI 的场所是创建巧合学习、处理问题和集合天然说话的系统。东说念主工智能的愚弄稀奇闲居，包括图像识别、语音助手、保举系统、自动驾驶汽车和推测性惊叹等。
AI 时候可以分为几个不同的类别，包括机器学习、深度学习和天然说话处理。机器学习是东说念主工智能的一个分支，它专注于创建巧合从数据中学习和作念出推测的算法。深度学习是机器学习的一个子集，它使用东说念主工神经网罗来模拟东说念主类大脑的功能。
AI 在医疗保健、金融、运载和零卖等多个行业都有闲居的愚弄。在医疗保健限制，AI 正在匡助医师会诊疾病、推测患者护士需求以及个性化调养贪图。在金融服务行业，AI 正在用于诓骗检测、风险握住和个性化投资建议。
AI 在栽植成果、减少资本并激动改进方面有着弘大的后劲。关系词，AI 也带来了挑战，包括服务的流失、秘籍问题以及伦理商量。跟着 AI 时候的快速发展，列国政府和组织正在制定新的法律和法则来打法这些挑战。
总之，东说念主工智能是现时全国最振奋东说念主心的改进之一。跟着 AI 时候的不竭突出，它有后劲绝对蜕变咱们的职责形状、活命形状和社会结构。关系词，AI 也提议了新的伦理和社会问题，这些问题需要咱们仔细商量。
编码用户输入：
用 python 写一个函数收尾快速排序算法，条目输入为一个列表，列内外的元素都是 float 类型，复返一个排好序后的列表。记取要给代码加华文提神。
微调模子输出：
defquick_sort(nums): # 快速排序的递归函数# 要是列表长度小于就是1，则径直复返，因为列表还是是排序好的iflen(nums) <= 1: return nums # 聘请基准值，这里聘请列表的第一个元素 pivot = nums[0] # 分隔列表，将小于基准值的元素放在左侧，大于基准值的元素放在右侧 left = [num for num in nums[1:] if num < pivot] right = [num for num in nums[1:] if num >= pivot] # 递归地对左侧和右侧进行快速排序 left = quick_sort(left) right = quick_sort(right) # 将左侧、基准值、右侧团结成一个排序后的列表return left + [pivot] + right作家信息
Gemma-2-9B-Chinese-Chat 和 Gemma-2-27B-Chinese-Chat 微调模子的孝顺者是王慎抓和郑耀威。
王慎抓同学是清华大学自动化系 LEAP 现实室的三年级博士生，导师是宋士吉教悔和黄高副教悔。
在此之前，他在北京航空航天大学沈元荣誉学院谋划机科学与时候专科以优异收获得到工学学士学位。
王慎抓
王同学是开源技俩标积极观念者，几个流行的微调 LLM 都是他发布的，如 Llama3-8B-Chinese-Chat、Llama3-70B-Chinese-Chat 和 Mistral-7B-v0.3-Chinese-Chat。
业余时分，他还会在知乎上写一些华文科技博客，现时有 10k + 粉丝。
郑耀威是王慎抓在本科时代的同学，他们此前就曾屡次合营。
郑耀威
郑耀威现时仍在北航读博，他曾以第一作家在 CVPR、AAAI、WWW 等顶会发表多篇论文，并担任 AAAI、EMNLP、Neural Computation 等会议和期刊审稿东说念主。
他亦然大模子微调框架 LLaMA Factory 的发起东说念主和主要缔造者，GitHub 开源技俩得到突出 2 万星标。
在这些优秀的孝顺者的不竭致力于之下，开源模子之路会越走越盛大，模子的华文智商也会肃肃增强。
参考贵府：
https://x.com/ShenzhiWang_THU/status/1807640624402923779
https://huggingface.co/shenzhi-wang/Gemma-2-9B-Chinese-Chat
https://huggingface.co/shenzhi-wang/Gemma-2-27B-Chinese-Chat
本文来自微信公众号：新智元（ID：AI_era）
告白声明：文内含有的对外跳转连系（包括不限于超连系、二维码、口令等状貌），用于传递更多信息大沢佑香全集，从简甄选时分，按捺仅供参考，IT之家总计著述均包含本声明。