xusenlin

api-for-open-llm. Openai style api for open large language models, using LLMs just as chatgpt! Support for LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 etc. 开源大模型的统一后端接口

FastIE. A training and inference framework for open ner and re models! 信息抽取（实体抽取、关系抽取、事件抽取）模型的统一训练和推理框架，包含丰富的开源SOTA模型

litserve-examples. 基于LitServe框架的模型服务示例

textgen. textgen, Text Generation models. 文本生成，包括：LLAMA、ChatGLM、UDA，GPT2，Seq2Seq，BART，T5等模型实现，开箱即用。