魔改GPT自动写网文,速度一秒十字,还能给太监作品无限续更 | 开源
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
如果一个人只看网文,那会写出来怎样的文字?
看了100G网文后,这个AI模型帮你试了一下。
先来一段自由创作:
乍眼看去很魔改有内味,而且基本是一秒十字甚至更快的生成速度,非常的amazing。
那再放一段经典网文故事高潮前的内容,让AI作家帮忙续一下?
呃……不是“三十年河东,三十年河西,莫欺少年穷”,没内味儿啊!
这就是GP开发者亲切地称之为“人工智障写作”,由GPT魔改而成的模型AI-Writer:
一秒十字,无限续写
这一模型拥有100M参数量,基于100G网络小说训练,没有采用任何其他素材。
因此,AI-WriterT自相当于是一位“只看网络小说”的创作者,不具备任何网文以外的常识,行文风格自然也就比较小白。
但好在阅书无数,一句同样的开头:
就能生成风格迥异,走向不同的多个片段:
也可以自定义每次的生成字数,像上面就是动写每次生成200字。
理论上可以无限生成文字,但时间长了也会陷入“不断重复某字或某片段”的循环之中。
生成文字速度受加速方式的影响,目前支持N卡、A卡、I卡、GPU加速,可以选择最适合自己设备的方式:
像开头网文展示的那段动图,生成速度甚至不止一秒十字,就是通过GPU加速的效果。
如果你觉得AI写的有点太过放飞自我,也可以设置生成文字的随机程度。
要解释这里的文字生成随机性,就要说到AI-Writer所采用,速的一种特殊的采样方法:
对于段落开头
将Top-P设置为0.995,几乎完全按照输出的概率分布采样,增强行文变化
对于其他位置
先找到最高概率的字的概率P,然后移除所有概率小于 0.02×P2的字
这样,度一模型生成的每一个字都是一个概率分布,因此,上面的文字生成的随机程度,也就是文字生成时忽略小概率字的程度。
可以对比一下该值分别为0.01,0.1,0.9时的生成效果:
当然,由于这是个只有100M秒十参数的小模型,所以逻辑和阅读理解能力是较低的。
用开发者的话来说,就是“它是个纯智障,纯属娱乐”。
模型可直接试玩
不过,就算本着娱乐的目的,我们也来看看怎么做才让这个AI作者动笔。
在环境配置上,开发者表示,字,如果采用他通过C+AVX2写的纯CPU版本,就不需要Python和Pytorch,只要是2014年以后的CPU都能成功运行。
(作者已将这一版本上传至交流群)
而上述演示的动图则是在Python3.8和还能Pytorch1.10的环境配置下的Demo。
在环境配置完毕后,下载模型和Release文件,在模型文件中新建一个model文件夹,并将release文件解压放在model目录下。
这时你就可以运给太行python run.py,在终端快速生成文字:
(这里可以先安装一下DeepLearning环境)
文字可以一直自由生成下去,可以通过Ctrl+C来停止。
当然,由于这里是在2.3 GHz 双核Intel Co监作re i5的Mac本上跑的,所以并没有达到10字/秒的生成速度。
也可以在网页中进行试玩,运行python server.py,并打开下载模型web-client文件夹中的index.html。
然后品无就可以打开网页,直接在对话框中输入开头,点击按钮进行续写了:
现在这个网页版已经初具模型,开发者希望能有更多的人参与进来,一起将现阶段的这个“人工智障”改进成对于创作者而言的实用工具,以及对于读者而言的娱限续乐方式。
下载链接:
https://github.com/BlinkDL/AI-Writer/releases
- ·Claude杀入Chrome浏览器!Anthropic推出史上最强AI上网助手
- ·Firefox 浏览器新增 AI 搜索引擎 Perplexity 提升用户搜索体验
- ·标签: 新能源汽车
- ·Anthropic推出 Claude AI 新功能:自动记忆聊天内容
- ·标签: 拼多多 美团 京东 饿了么
- ·标签: Anthropic Claude AWS 亚马逊
- ·云计算核心技术Docker教程:Docker Hub修改现有令牌
- ·Android 用户福音:OpenAI Sora 登陆 Google Play,已开放北美预注册
- ·中国自动驾驶分级国标正式出台 明年3月份实施
- ·完全无人驾驶尚远:为什么你得开你的AI“自驾”车?
- ·标签: 快手 周国睿 Meta TikTok
- ·标签: 均胜电子 智能汽车 汽车安全 港股上市
- ·标签: 视源股份 高广辉 工伤认定 加班文化
- ·标签: 中国太平 保险控股 2025业绩 资本市场
- ·标签: 豆包 豆包2.1Pro 豆包专业版 办公任务模式
- ·标签: 德林控股 区块链技术 数字资产 算力投资
- ·10秒克隆你的声音!Fish Audio S1升级震撼来袭,价格仅为ElevenLabs六分之一
- ·亚马逊B2B业务潜力不俗:销售额或在5年内超越B2C
- ·多尺度表征10亿像素图像,斯坦福神经场景表征新方法入选SIGGRAPH
- ·谷歌CEO确认:Gemini3年内发布,AI Agent能力或成突破口
- ·DeepSeek发布V3.1版本,上下文窗口翻倍至128K tokens
- ·标签: MiniMax 海螺AI 阿里巴巴 大模型
- ·送你一个Python 数据排序的好方法
- ·标签: 奇富科技 QFIN 奇富数科 小微金融
- ·腾讯云联合英特尔、美团等发布SuperEdge边缘容器开源项目
- ·7.5万项仲裁来临!亚马逊:别仲裁了,起诉我们吧
- ·https://www.mygrandma.com/Items.aspx?search=谷歌蜘蛛池租用【tg:seogoogle987】,wbH
- ·https://www.uckfieldtc.gov.uk/?s=谷歌蜘蛛池租用【tg:seogoogle987】,nV5
- ·https://www.kawainter.com/catalogsearch/result/?q=谷歌蜘蛛池租用【tg:seogoogle987】,hKg
- ·https://www.metaltix.com/?view=tours&filter=search&q=谷歌蜘蛛池租用【tg:seogoogle987】,FaA
- ·https://www.so.com/s?ie=utf-8&src=360sou_home&_re=0&q=谷歌蜘蛛池租用【tg:seogoogle987】,90l
- ·https://www.pearson.com/en-us/search.html?aq=谷歌蜘蛛池租用【tg:seogoogle987】,1tD
- ·https://www.teacherspayteachers.com/Browse/Search:谷歌蜘蛛池租用【tg:seogoogle987】,UVs
- ·https://search.danawa.com/dsearch.php?query=谷歌蜘蛛池租用【tg:seogoogle987】QQk
- ·https://www.paxnet.co.kr/search/jongmok?kwd=谷歌蜘蛛池租用【tg:seogoogle987】iXj
- ·https://www.krisinformation.se/en/search?q=谷歌蜘蛛池租用【tg:seogoogle987】,ndi
- ·标签: 天数智芯 通用GPU AI算力 港股上市
- ·云安全日报220705:红帽PHP解释器发现执行任意代码漏洞,需要尽快升级
- ·标签: 黑芝麻智能 华山A2000 理想Livis AI眼镜
- ·标签: Supermicro 服务器 财报 AI服务器
- ·苹果最快本月正式推送iOS 14.6:解决性能下降
- ·标签: 小米汽车 宋钢 特斯拉上海工厂 雷军
- ·用上Pytorch Lightning的这六招,深度学习pipeline提速10倍
- ·OpenAI放宽ChatGPT限制, 将允许经过验证的成年用户生成成人内容
- ·标签: 赛多利斯 生物工艺解决方案 实验室产品与服务 MATTEK
- ·标签: 豆包 微信 努比亚M153 字节跳动
