Fixing Assumptions for Using AI as Accelerator

Context

Development support sử dụng AI đang
được tích hợp không chỉ bởi một số chuyên gia,
mà vào công việc hàng ngày.

Tuy nhiên, trong nhiều contexts,
ngay cả khi AI được giới thiệu,
các trường hợp cũng được quan sát mà
quality của các quyết định không cải thiện như mong đợi, hoặc
confusion được khuếch đại tùy thuộc vào cách nó được sử dụng.

Tình huống này
không phải do thiếu năng lực của AI,
mà trong nhiều trường hợp bắt nguồn từ
phía con người không cố định đủ assumptions.

Objective

Mục đích của topic này là
không coi AI đơn giản như một "sự tồn tại tạo ra các câu trả lời đúng."

Để cho phép con người tiếp tục thực hiện các quyết định
ngay cả dưới incomplete assumptions,
chúng ta tổ chức prerequisites
để safely tích hợp AI như một accelerator.

Minimal Inputs

Để sử dụng AI như decision support,
tối thiểu, các assumptions sau cần được cố định:

• SoT (Source of Truth)
  Vị trí của source of truth mà AI có thể tham chiếu

• Constraints
  Boundary conditions mà AI không được vượt qua

• Non-Changeables
  Assumptions bị loại khỏi proposals và generation

• Uncertainties
  Domains mà speculation được cho phép và không được cho phép

Nếu những điều này không được làm rõ ràng,
AI output có xu hướng thiếu consistency.

Working Model

Công việc sử dụng AI
giả định working model sau:

• AI tạo ra decision candidates
• Con người luôn thực hiện adoption hoặc rejection của các quyết định
• Output được coi như hypotheses
• Hypotheses được cung cấp verification conditions và expiration dates

Khoảnh khắc AI output được coi như finalized items,
decision-making subject có thể không còn ở phía con người.

Tactics

Intervention để làm cho AI hoạt động như một accelerator
không phải là tăng generation accuracy.

• Trước tiên định nghĩa decision boundaries
• Phân tách assumptions AI có thể xử lý và assumptions nó không thể
• Làm rõ ràng criteria để adopting hoặc rejecting output

Đây không phải là operational procedures,
mà là thiết kế của decision structure.

Risks

AI utilization có
các thất bại độc đáo.

• Plausibility của output thay thế cho các quyết định
• Nó trông như progress ngay cả với assumptions vẫn mơ hồ
• Nơi decision responsibility nằm trở nên không rõ ràng

Đây là
không phải các vấn đề phát sinh bởi AI introduction bản thân,
mà là kết quả mà existing Failure Patterns được làm hiển thị hoặc khuếch đại.

Interaction with Failure Patterns

AI utilization
đặc biệt kết nối mạnh mẽ với các Failure Patterns sau:

• Context-Blind Change
  Output tiếp tục được cập nhật mà không có assumptions được cố định

• Test-Passing Illusion
  "Nó hoạt động" / "nó passed" được coi như cơ sở cho correctness

• Decision-less Agility
  AI được sử dụng như một cái cớ để hoãn lại các quyết định

Trừ khi những điều này được coi như assumptions,
AI không hỗ trợ các quyết định và tăng tốc confusion.

Resulting Context

Nếu AI có thể được sử dụng với assumptions được cố định,
AI hành xử như sau:

• Tăng tốc search cho decision candidates
• Trình bày choices có xu hướng bị bỏ qua
• Rút ngắn learning loops

AI không phải là decision-maker.
Nó là một thiết bị mở rộng đáng kể khả năng của con người thực hiện các quyết định.