Make `LanguageModelSession` transcript observable while streaming responses
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
まず、LanguageModelSession.transcript と LanguageModel.streamResponse API の場所を確認します。ストリーミング中のレスポンスと transcript エントリがどのように表現されているかを確認し、その後、ストリーム中に中間的な推論、メッセージ、ツール呼び出しをどのように公開できるかを判断します。これらのエントリをストリーミング中にセッションの transcript を通じて観測できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
As described by @belozierov in https://github.com/mattt/AnyLanguageModel/issues/98#issuecomment-3830901075:
During an LLM request, the model may perform many turns, producing intermediate outputs such as reasoning, user-visible messages, tool calls, etc. Ideally, these intermediate steps should be observable by the user via
LanguageModelSession.For this to work, it would be useful to update
LanguageModelSession.transcriptwhileLanguageModel.streamResponseis running.One possible approach would be for
LanguageModel.streamResponseto return not just a stream ofContent, but an enum that can represent eitherContentorTranscript.Entry, whereTranscript.Entryvalues would be appended toLanguageModelSession.transcriptduring the stream.
- 主要言語
- Swift
- スター
- 943
- フォーク
- 94
- 平均マージ
- 1日 5時間
- マージ済み PR(30日)
- 52
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
huggingface/AnyLanguageModel のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 30/100
huggingface/AnyLanguageModel#210 · コメント 5 件 · リアクション 3 件 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
huggingface/AnyLanguageModel#114 · コメント 3 件 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
huggingface/AnyLanguageModel#93 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
huggingface/AnyLanguageModel#82 ·
メンテナーはふだん 1 日以内に返信
-
Audio input support?オープンenhancement
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
huggingface/AnyLanguageModel#38 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
huggingface/AnyLanguageModel の issue をすべて見る
似ている issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 68/100
vorssaint/vorssaint-utils#2545 ·
メンテナーはふだん 1 日以内に返信
-
documentation
難易度 1/5 1〜3時間 初心者へのやさしさ 88/100
hoiekim/turnip-ios#210 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜2日 初心者へのやさしさ 78/100
getsentry/sentry-cocoa#9219 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
BasedHardware/omi#20211 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信