效果可达OpanAI同等模型 96%,国产开源 AI 语言模型TigerBot发布
IT之家6月8日消息,国产多模态大语言模型TigerBot近日正式发布,包含70
(资料图片)
IT 之家 6 月 8 日消息,国产多模态大语言模型 TigerBot近日正式发布,包含 70 亿参数和 1800 亿参数两个版本,目前已经在 GitHub 开源。
▲ 图源 TigerBot 的 GitHub 页面
据悉,TigerBot 带来的创新主要在于:
提出指令完成监督微调的创新算法提升模型可学习性 运用 ensemble 和 probabilistic modeling 的方法实现可控事实性和创造性 在并行训练上突破 deep-speed 等主流框架中的内存和通信问题此外,该模型还针对中文语言更不规则的分布,从 tokenizer 到训练算法上做了更适合的优化。
研究人员陈烨在虎博科技官网表示:“该模型在只使用少量参数的情况下,就能快速理解人类提出了哪类问题。根据 OpenAI InstructGPT 论文在公开 NLP 数据集上的自动评测,TigerBot-7B 已达到 OpenAI 同样大小模型的综合表现的 96%。”
▲ 图源 TigerBot 的 GitHub 页面
据称,其中 TigerBot-7B-base 的表现“优于 OpenAI 同等可比模型” ,开源代码包括基本训练和推理代码,双卡推理 180B 模型的量化和推理代码。数据包括 100G 预训练数据,监督微调 1G 或 100 万条数据。
IT之家小伙伴们可以在这里找到 GitHub 的开源项目。
关键词:
IT之家6月8日消息,国产多模态大语言模型TigerBot近日正式发布,包含70
近日,远觉镇对一季度被评为“最美家庭”的22户家庭颁发荣誉流动红旗,
你们好,最近小活发现有诸多的小伙伴们对于华为手机充电口坏了自己修,
2023年6月8日是第十五个世界海洋日和第十六个全国海洋宣传日,活动主题
中工网讯(工人日报-中工网记者赖志凯)近日,北京市人社局分别会同市
同花顺金融研究中心6月7日讯,有投资者向海南橡胶提问,今年云南橡胶产
1、这种米面蛾应该就是现在危害最大的印度谷螟,看是不是图中这种蛾,
同花顺金融研究中心6月7日讯,有投资者向国恩股份提问,贵公司作为国家
行情表现6月7日收盘价当日涨跌幅五日涨跌幅硅铁6908 00元 吨-1 59%0 32
汪文斌表示,日本政府一再为福岛核污染水洗白,号称水质无害、排放有理
想必现在有很多小伙伴对于向上级反映还是反应方面的知识都比较想要了解
6月2日,行政总裁兼执行董事许清流增持恒安国际(01044)20万股,每股作
伴随着气候加速回暖,假期交替更迭,深受年轻人喜爱的春夏音乐季在多地
1、一、个性特长例如性格外向,喜欢交往朋友,或者是善解人意,还是喜
1、你好,铁角飞地在破碎群岛-至高岭地图的偏左下方,是采矿和锻造任务
1、意义:琼:玉。2、由美丽的玉浆制成,古代传说喝了它可以成仙。3、对
股价狂飙,石墨电极制造商找到“价值密码”?
一、阿尔巴尼亚女人多吗?阿尔巴尼亚国家男女人口比例基本一致,所以,
(10)贴心服务助力高考新华社照片,南京,2023年6月7日贴心服务助力高
行情表现6月7日收盘价当日涨跌幅五日涨跌幅棕榈油6480 00元 吨-0 31%2
仲夏时节,一封寄往北京的散文诗
【纽威股份:纽威集团拟减持不超2%公司股份】纽威股份(603699)6月7日晚
美国农业部发布的作物进展周报显示,美国冬小麦作物收获已经开始。作物
每经AI快讯,有投资者在投资者互动平台提问:董秘你好!公司有无电子身
李满红是东莞市沙田实验中学的一名教师。自2016年起,她一直兼任沙田实
Copyright 2015-2022 华东酒业网 版权所有 备案号:京ICP备2022016840号-41 联系邮箱:2 913 236 @qq.com