User-controlled Multi-Agent Conversation (Human-in-the-loop)
メンテナーはふだん 1 日以内に返信
評価
調査の方向性
このリクエストでは、ファイル、テスト、エントリーポイントが特定されていません。まず LocalAI の既存のチャットおよびモデルオーケストレーションのエントリーポイントを確認し、その後、手動モデレーション、固定ローテーション、自律的なインタラクションの要件を明確にしてください。複数モデルによる会話について、割り込みとリソース制約を含む動作および受け入れ基準が合意されれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Apologies for reposting this feature request here; due to my inexperience, I initially posted it in the Ideas section. Sorry for the inconvenience.
I am not sure if other software already implements a solution like this, but as far as the most well-known ones are concerned, I haven't seen it yet. From a programming standpoint, implementation should not be overly complex.
The core idea is based on the fact that every LLM has unique strengths and weaknesses. By making them interact, these limitations can be mitigated, significantly enhancing the quality of the conversation (hallucination mitigation) and the depth of the output.
The concept involves a chat interface where the user acts as a moderator, 'inviting' two or more LLMs to participate in one conversation. The user would establish the dialogue's rules from the beginning. For example (only):
Manual Moderation: The user sets the conversation goals, grants the floor to Model A, and decides when (or if) it is Model B's turn.
Fixed Rotation: A set sequence such as 1. User, 2. Model A, 3. Model B, and repeat.
Autonomous Interaction: The user sets the objective and allows the models to interact with each other autonomously until the user decides to interrupt.
Of course, this feature would be contingent on having enough RAM and VRAM to load multiple models into memory simultaneously.
I believe this would be a truly innovative and powerful feature!
- 主要言語
- Go
- スター
- 50k
- フォーク
- 4.6k
- 平均マージ
- 20時間 40分
- マージ済み PR(30日)
- 341
環境構築
このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
mudler/LocalAI のほかの issue
-
[Bug] Qwen3.8-27b Uncensored Fails to Download due to 404再び着手できるかも このイシューのプルリクエストはマージされずにクローズされました。 オープンbug unconfirmed
難易度 1/5 1時間未満 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
Realtime: ASR EOU language tags leak into the LLM conversation (unintended reply-language switching)対応中かも @nexxtmobile が 11 日前に担当しました。 オープンarea/api bug unconfirmed
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
Open Responses API doesn't accept "output_text" as an input Item再び着手できるかも このイシューのプルリクエストはマージされずにクローズされました。 オープンbug unconfirmed
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
mudler/LocalAI#12337 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Gallery model audio-cpp-sortformer-diarization fails to install: SHA mismatch, reproducible across retries再び着手できるかも このイシューのプルリクエストはマージされずにクローズされました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
mudler/LocalAI#11995 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Agent pool Postgres DSN is logged in cleartext, including the password, while the auth DSN is redacted対応中かも @localai-org-maint-bot が 47 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
mudler/LocalAI#11991 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 78/100
slavakurilyak/awesome-ai-agents#880 ·
メンテナーはふだん 1 日以内に返信
-
后缀带有LTX的番号无法自动匹配オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
metatube-community/metatube-sdk-go#387 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
apache/openserverless#282 · コメント 2 件 ·