大家好,我是「前端实验室」
爱分享的了不起~
Groqbook 是一款基于大模型的自动写书工具。
在 Groq 上使用 Llama3大模型,只需要输入一个主题,就可以在几秒钟内生成整本书。
📖 脚手架提示,可在 Llama3-70b 和 Llama3-8b 之间战略性切换,以平衡速度和质量
🖊️ 使用 Markdown 样式在流线型应用上创建包含表格和代码的美学书籍
📂 允许用户下载包含整个书籍内容的文本文件
Groqbook 使用的核心技术就是 Llama3大模型 和 Groq API
Llama 3是一款由Meta推出的新一代开源人工智能大语言模型,Llama-3 包含 8B(80亿参数)、70B(700亿参数)两个版本,分为基础预训练和指令微调两种模型,还有一个超4000亿参数正在训练中。
Llama 3 具有处理大量文本数据的能力。它能够理解复杂的语言结构和语义关系,从而生成连贯且高质量的文本内容。
Groq API是 Groqbook 的核心接口,通过该接口,用户可以轻松地与 Llama3 模型进行交互,获取所需的文本内容。
你可以使用 groqbook.streamlit.app上的托管版本,也可以本地运行。只需要在 Groq 官网注册一个 API 账号,获取 API 密钥配置即可。
export GROQ_API_KEY="gsk_yA..."
python3 -m venv venv
source venv/bin/activate # Bash
venv\Scripts\activate.bat # Windows
pip3 install -r requirements.txt
python3 -m streamlit run main.py
Groqbook 在不到一分钟的时间内大概能生成了约 15000 字的书籍,速度惊人。它适用于非小说类书籍,并在几秒钟内生成每一章,可以作为辅助工具,提供创作思路和范例。
目前,该模型仅使用章节标题的上下文来生成章节内容。将来,这将扩展到本书的更完整背景,以使 groqbook 也能生成高质量的小说书籍。
开源地址:https://github.com/Bklieger/groqbook