Hai vụ việc có thật cho thấy câu "AI làm chứ không phải tôi" không giúp được ai. Bài này vẽ một bản đồ trách nhiệm và đề xuất năm việc một đội làm ngay được.
Tóm lại: gán tên, đặt kiểm tra ở chỗ đắt, học mà không săn lỗi.
Lưu ý: tác giả không phải luật sư. Hai vụ kể lại từ nguồn thứ cấp, không từ bản án gốc. Bản đồ và năm việc là ý kiến của mình.
| Thuật ngữ | Nói dễ hiểu |
|---|---|
| Chatbot | Chương trình trò chuyện tự động trên trang web hoặc ứng dụng |
| Án lệ | Phán quyết cũ của tòa mà người ta viện dẫn |
| Tòa trọng tài dân sự | Nơi giải quyết tranh chấp nhỏ, thường nhanh và đơn giản |
| Nhật ký (log) | Bản ghi AI đã nhận gì, trả lời gì, lúc nào |
| Chuyển cho người | Khi AI không chắc hoặc việc quan trọng, chuyển sang người |
| Không đổ lỗi | Viết lại sự cố để tìm chỗ hệ thống hở, không để phạt người |
Theo bài tổng hợp của hãng luật Manatt: chatbot của Air Canada bảo khách có thể mua vé thường rồi xin hoàn phần chênh trong 90 ngày. Chính sách thật không cho. Hãng từ chối hoàn.
Tòa trọng tài ở British Columbia (2024 BCCRT 149) bác lập luận "chatbot là thực thể riêng", cho rằng hãng có nghĩa vụ chăm sóc và khai báo sai cẩu thả. Hãng phải bồi hoàn, con số nêu là 650,88 đô la Canada.
Mata kiện Avianca (New York, 2023): luật sư nộp văn bản dẫn nhiều án lệ. Phía bên kia không tìm thấy chúng. Hóa ra ChatGPT bịa ra và luật sư không kiểm tra.
Ngày 22/6/2023, thẩm phán phạt tổng cộng 5.000 đô la và nhận xét các luật sư đã bỏ rơi trách nhiệm của mình (theo Wikipedia, Bloomberg Law, Above the Law).
| Air Canada | Mata kiện Avianca | |
|---|---|---|
| Ai đưa AI ra | Công ty, cho khách | Luật sư, cho tòa |
| AI sai kiểu gì | Nói sai chính sách | Bịa án lệ |
| Lập luận bị bác | "Chatbot là thực thể riêng" | "Tôi tin công cụ" |
| Chỗ thiếu | Không ai kiểm chứng lời chatbot | Không ai kiểm tra án lệ |
| Bên | Phần việc hợp lý |
|---|---|
| Người dùng, nhân viên | Kiểm tra kết quả trước khi dựa vào hoặc gửi đi |
| Đội xây dựng | Thiết kế chỗ kiểm tra, giới hạn phạm vi, đường chuyển cho người, đo chất lượng |
| Tổ chức, quản lý | Gán người chịu trách nhiệm, cấp thời gian và công cụ |
| Nhà cung cấp mô hình | Điều khoản hợp đồng và tài liệu về giới hạn, hãy đọc hợp đồng của bạn |
Có tên, không phải "cả nhóm". Biết tính năng làm gì, đo ra sao, tắt thế nào.
Tiền, sức khỏe, pháp lý, dữ liệu cá nhân, việc không hoàn tác.
Biết AI nói gì, với ai, lúc nào, dựa nguồn nào.
Khi AI không chắc hoặc khách muốn gặp người. Nói rõ khi nào đang nói chuyện với máy.
Hỏi hệ thống đã cho phép điều này thế nào, không hỏi ai làm. GitLab 2017 và S3 2017 là ví dụ.
Hai vụ trên cho thấy lập luận này yếu.
Bấm đồng ý hàng trăm lần mỗi ngày mà không đọc.
Thường chỉ là mắt xích cuối của hệ thống thiếu kiểm soát.
Hợp đồng có thể giới hạn trách nhiệm của họ.
Log chứa lời khách nói, giữ như dữ liệu cá nhân.
Trách nhiệm không có quyền chỉ là cái tên.
| Việc AI làm | Mức kiểm tra gợi ý |
|---|---|
| Trả lời khách về tiền hoặc hoàn trả | Cao: người duyệt hoặc nguồn chính thức, có đường chuyển |
| Soạn tài liệu pháp lý | Cao: người ký kiểm chứng từng nguồn dẫn |
| Gợi ý tiêu đề bài viết | Thấp: xem lướt là đủ |
Tác giả không phải luật sư. Với tình huống pháp lý thật, hãy hỏi luật sư ở nơi bạn hoạt động.
Chưa trả lời được thì đó là việc đầu tiên.