Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Disabled tools can still be called by the agent

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#9,122 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
79/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
typescript
Lĩnh vực
ai, security

Hướng nghiên cứu

Bắt đầu tại agent-service/src/agent/texera-agent.ts và đọc sendMessage, createTools, cùng phần xử lý cài đặt disabledTools. Kiểm tra các bài kiểm thử về việc tạo hoặc gọi công cụ của agent, sau đó xác minh rằng một công cụ bị vô hiệu hóa không được truyền cho generateText hoặc không thể thực thi. Hoàn tất khi quy trình tái hiện không còn chạy executeOperator trong lúc nó bị vô hiệu hóa.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

What happened?

If a tool is in settings.disabledTools, the agent can still call it, and the call still runs.

updateSettings saves disabledTools, and GET /api/agents/:id/system-info shows that tool as enabled: false. But sendMessage gives the model all tools:

const result = await generateText({
  ...
  tools: this.tools,

createTools() never checks disabledTools, so a disabled tool is still given to the model.

Example on main with claude-haiku-4.5. The agent was created with {"settings": {"maxSteps": 5, "disabledTools": ["executeOperator"]}}. system-info showed:

[{"name":"deleteOperator","enabled":true},{"name":"addOperator","enabled":true},
 {"name":"modifyOperator","enabled":true},{"name":"executeOperator","enabled":false}]

Prompt: "Add a CSV File Scan operator that reads the file data.csv, then call the executeOperator tool on it to run it." The agent called addOperator, then executeOperator({"operatorId":"op1"}), and the workflow really ran on the backend (it failed with FileNotFoundException, because the file does not exist).

Expected: tools in disabledTools should not be passed to generateText, or should be rejected when called.

Screenshots

Step 2, tool call: the agent calls executeOperator and it runs, even though system-info says enabled: false.

B-step2-toolcall.png

The chat and canvas: the agent added a CSV File Scan, ran it, and reported the error.

B-workspace.png

How to reproduce?
  1. Create an agent with POST /api/agents and "settings": {"disabledTools": ["executeOperator"]}. (The panel has no switch for this, so use the API.)
  2. GET /api/agents/<id>/system-info shows executeOperator with enabled: false.
  3. In the agent panel, send: Add a CSV File Scan operator that reads the file data.csv, then call the executeOperator tool on it to run it.
  4. Step 2's details show an executeOperator call and its result.
Version/Branch

1.4.0-incubating-SNAPSHOT (main)

Commit Hash (Optional)

57faa6b

What browsers are you seeing the problem on?

Chrome

Relevant log output
agent-service/src/agent/texera-agent.ts  sendMessage: generateText({ tools: this.tools }); createTools() does not check settings.disabledTools
Ngôn ngữ chính
Scala
Star
325
Fork
196
Merge trung bình
3 ngày 10 giờ
Pull request đã merge (30 ngày)
132

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của apache/texera

Tất cả issue của apache/texera

Issue tương tự

Thêm issue về Scala

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.