近年來(lái)，大型語(yǔ)言模型（LLM）如雨后春筍般涌現(xiàn)，OpenAI、Anthropic、Google、AWS 等各大廠商紛紛推出強(qiáng)大的模型。

然而，開發(fā)者在調(diào)用這些模型時(shí)往往需要適配各自的接口，繁瑣且效率低下。

為了解決這一痛點(diǎn)，吳恩達(dá)團(tuán)隊(duì) 推出了開源 Python 包：Aisuite，看名稱就知道是一個(gè)AI套件。

一個(gè)統(tǒng)一 LLM 調(diào)用的標(biāo)準(zhǔn)化工具，讓開發(fā)者更高效地對(duì)接和比較多種 LLM。

工具介紹

Aisuite 是一個(gè)專為開發(fā)者設(shè)計(jì)的開源工具包，旨在統(tǒng)一和簡(jiǎn)化 LLM 的調(diào)用接口。

通過(guò)一個(gè)標(biāo)準(zhǔn)化的接口，輕松切換模型提供商，無(wú)需為不同接口單獨(dú)開發(fā)代碼，從而極大地提升開發(fā)效率。

添加圖片注釋，不超過(guò) 140 字（可選）

主要特點(diǎn)

• 一鍵切換模型：使用 provider:model 的形式選擇模型，例如：openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022。無(wú)需改動(dòng)代碼邏輯，只需更改字符串即可。
• 支持多種 LLM：GPT-4、GPT-3.5、Claude 系列、Azure、Google、AWS、HuggingFace、Ollama、Mistral等
• 靈活擴(kuò)展：同一套代碼調(diào)用不同模型，便于快速測(cè)試、對(duì)比性能與效果。
• 簡(jiǎn)單易用：一條命令即可安裝，快速上手。

快速使用

① 安裝 Aisuite

② 調(diào)用不同模型

Aisuite 提供了統(tǒng)一的接口，以下是基本的調(diào)用流程：

import aisuite as ai

# 實(shí)例化AI套件
client = ai.Client()

# 模型列表，迭代查看不同模型效果
models = ['openai:gpt-4o', 'anthropic:claude-3-5-sonnet-20240620']

# 設(shè)定不同角色提交的問(wèn)題
messages = [
    {'role': 'system', 'content': 'Respond in Pirate English.'},
    {'role': 'user', 'content': 'Tell me a joke.'},
]

for model in models:
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0.75
    )
    print(response.choices[0].message.content)

添加圖片注釋，不超過(guò) 140 字（可選）

應(yīng)用場(chǎng)景

• 模型對(duì)比與評(píng)估：快速對(duì)比多個(gè) LLM 的性能、輸出質(zhì)量，選擇最佳模型。
• 多模型策略集成：在同一應(yīng)用中結(jié)合多個(gè)模型，充分發(fā)揮其特長(zhǎng)，例如：
• Claude 用于生成長(zhǎng)文內(nèi)容
• GPT-4 用于代碼生成和推理
• 統(tǒng)一代碼管理：使用統(tǒng)一接口管理多個(gè)模型，避免多套代碼維護(hù)的繁瑣。

寫在最后

Aisuite 的誕生無(wú)疑是 LLM 開發(fā)領(lǐng)域的一場(chǎng)“接口革命”。它不僅解決了開發(fā)者對(duì)接不同模型時(shí)繁瑣的學(xué)習(xí)成本，還通過(guò)統(tǒng)一接口讓多模型的協(xié)作與比較變得簡(jiǎn)單高效。

無(wú)論是快速集成多個(gè)模型，還是高效測(cè)試模型效果，它都能成為開發(fā)者的得力助手。

GitHub項(xiàng)目地址：https://github.com/andrewyng/aisuite