MLC LLM:大型语言模型的高性能部署解决方案
MLC LLM 提供一个高性能的通用部署解决方案,使任何大型语言模型都能通过本地API以编译加速方式部署,旨在让每个人都能在自己的设备上开发、优化并部署AI模型。
LMFlow: 优化大型语言模型微调的工具箱
LMFlow是一个为大型语言模型(LLMs)微调与推理提供的高效工具箱,支持与OpenAI、Azure OpenAI和Hugging Face等平台集成。
LangChain:构建基于大型语言模型的应用
LangChain 是一个开发框架,专为基于大型语言模型(LLM)的应用而设计,通过提供模块化的构建块和组件、集成的生产工具和部署解决方案,简化了整个应用生命周期。
JARVIS:开放前沿AGI研究与应用实践
JARVIS 是一个致力于推动人工通用智能(AGI)研究和应用的开放平台,为开发者提供了一系列工具和资源,帮助他们快速构建、测试和部署基于最新研究的语言模型应用。
FastChat:开放的大型语言模型聊天机器人平台
FastChat 是一款专注于提供精选的大型语言模型(LLM)聊天机器人的培训、服务和评估的开放平台,每天处理超过百万次的聊天请求,为用户提供优质的聊天体验,支持多模型服务和兼容 OpenAI 的 API。
Enjoy App:多功能外语学习助手
Enjoy App 是一款专注于提供多模式外语学习体验的应用,支持音频跟读、视频学习等功能,是学习外语不可或缺的助手。
RWKV:具有 Transformer 级 LLM 性能的 RNN
RWKV通过推出Eagle和Finch两款新架构,展现了其在深度学习技术上的创新与应用。这些模型不仅在技术上进行了重大突破,还特别优化了多语言处理能力,力求在全球AI领域中占据一席之地。
Mesh Transformer JAX:高效的转换器语言模型并行实现
Mesh Transformer JAX 是一个专为大型转换器模型并行而设计的库,使用 JAX 实现高效的模型并行策略,支持在TPU上运行高达数十亿参数的语言模型。
GPT-2:自然语言处理领域的新突破
GPT-2是一种先进的自然语言处理模型,它通过在大规模WebText数据集上进行无监督训练,展现了在多个NLP任务上的卓越性能和通用性。
Falcon-40B-Instruct 4bit GPTQ:在保持模型性能的同时减少计算资源的消耗
Falcon-40B-Instruct 4bit GPTQ是一款实验性的AI模型,通过AutoGPTQ技术实现4比特量化,优化了模型的计算效率和资源消耗。
CodeGeeX:多语言代码生成模型
CodeGeeX是一个基于华为MindSpore框架开发的多语言代码生成模型,具备130亿参数。
BLOOMChat:多语言支持、可商用的聊天模型
BLOOMChat是一款开源、支持多语言、可商用的大语言模型,旨在提供优质的多语言对话支持,适用于各种商业和学术环境。