Dữ liệu nào được phép đưa vào công cụ AI?
Để bảo mật khi dùng AI viết code, trước hết hãy kiểm tra công cụ được phép nhận thông tin gì. Ngoài mã nguồn, đội ngũ có thể gửi sơ đồ hệ thống, nhật ký lỗi hoặc dữ liệu mẫu. Rủi ro vì vậy không chỉ nằm ở code AI tạo ra, mà còn ở dữ liệu đã đưa ra ngoài. Hãy chốt phạm vi được phép chia sẻ trước khi cho công cụ truy cập dự án.
Bài viết này là danh sách gợi ý để bạn trao đổi với đội ngũ dự án. Nội dung không phải chính sách hay chứng nhận bảo mật của Genki. Điều khoản có thể khác giữa các sản phẩm và gói dịch vụ, nên cần kiểm tra đúng công cụ, đúng gói tại thời điểm lựa chọn.
Kiểm tra cả những tệp công cụ có thể tự đọc
Đừng chỉ kiểm tra nội dung bạn dán vào ô trò chuyện. Tùy thiết lập, công cụ còn có thể đọc các tệp khác, lịch sử sửa code hoặc kết quả chạy lệnh. Những thông tin này được gọi là ngữ cảnh: phần dữ liệu giúp AI hiểu yêu cầu. Hãy kiểm tra cả tiện ích bổ sung và dịch vụ trung gian. Nếu đã cài đặt loại trừ một tệp, cần thử xác nhận rằng tệp đó thực sự không được gửi đi.
- Tách mã công khai, mã nội bộ, bí mật kinh doanh và dữ liệu thuộc quyền của khách hàng.
- Không đưa mật khẩu, khóa truy cập hoặc thông tin xác thực thật vào câu lệnh và dữ liệu mẫu.
- Dùng dữ liệu giả lập; việc bỏ tên chưa chắc đã loại bỏ khả năng nhận diện một người.
- Xác nhận quyền chia sẻ tài liệu và mã thuộc bên thứ ba trước khi đưa vào công cụ.
| Loại dữ liệu | Điều kiện sử dụng đề xuất | Người xác nhận và bằng chứng |
|---|---|---|
| Mã đã công khai | Kiểm tra giấy phép và quyền sử dụng; công khai không có nghĩa được dùng tùy ý | Người quản lý mã nguồn; nguồn và điều kiện giấy phép |
| Mã nội bộ, tài liệu kiến trúc | Chỉ dùng công cụ và phạm vi dữ liệu đã được phê duyệt | Chủ sở hữu dữ liệu và phụ trách bảo mật; phê duyệt phạm vi, cấu hình công cụ |
| Mã hoặc dữ liệu của khách hàng | Kiểm tra hợp đồng, quyền chia sẻ và yêu cầu xử lý dữ liệu trước khi gửi | Người có thẩm quyền của khách hàng; điều khoản hoặc chấp thuận bằng văn bản |
| Thông tin cá nhân và dữ liệu nhạy cảm | Ưu tiên dữ liệu giả lập; đánh giá riêng nếu thật sự cần dữ liệu thật | Chủ sở hữu dữ liệu và người phụ trách pháp lý/bảo mật; hồ sơ đánh giá |
| Mật khẩu, khóa truy cập thật | Không đưa vào yêu cầu gửi cho AI, tệp mẫu hoặc thông tin công cụ có thể đọc | Người quản trị; kết quả kiểm tra và xử lý mật khẩu, khóa truy cập |
Với từng loại dữ liệu, ghi rõ người phê duyệt, ngày kiểm tra, phiên bản điều khoản và nơi lưu tài liệu xác nhận. Bảng trên là mẫu để thảo luận, không phải quyền cho phép sử dụng dữ liệu. Ai có thẩm quyền đồng ý và cần đáp ứng điều kiện pháp lý nào phải được xác định theo hợp đồng và tổ chức của bạn.
Đọc điều khoản theo đúng sản phẩm và gói sử dụng
Gói có tên “doanh nghiệp” không có nghĩa mọi dữ liệu đều được phép đưa vào. Bạn vẫn cần biết dữ liệu được xử lý ở đâu, giữ trong bao lâu, ai xem được và có được dùng để huấn luyện AI hay không. Nếu hợp đồng hoặc pháp luật đặt ra điều kiện riêng, hãy nhờ người phụ trách pháp lý hoặc bảo mật đánh giá trước khi sử dụng.
- Cam kết không dùng để huấn luyện áp dụng cho dữ liệu nào và có cần cấu hình riêng không?
- Nhật ký hoạt động, nội dung gửi bộ phận hỗ trợ và thông tin tìm lỗi có được lưu theo quy tắc khác không?
- Có nhà cung cấp khác tham gia xử lý dữ liệu không? Dữ liệu có được chuyển sang khu vực khác hoặc giữ lâu hơn trong trường hợp đặc biệt không?
- Khi kết thúc hợp đồng, dữ liệu và quyền truy cập được xử lý theo quy trình nào?
Chỉ cấp quyền cần thiết cho công cụ và người dùng
Chỉ cấp cho công cụ quyền cần thiết để hoàn thành nhiệm vụ. Nếu công cụ có thể sửa tệp hoặc chạy lệnh, cần giới hạn nơi nó được thao tác. Tách môi trường thử nghiệm khỏi hệ thống đang phục vụ khách hàng, hạn chế tài khoản truy cập và yêu cầu duyệt các thao tác nhạy cảm. Nội dung trong tệp hoặc kết quả từ bên ngoài có thể chứa chỉ dẫn không đáng tin; không để những chỉ dẫn đó tự mở rộng quyền của công cụ.
Ví dụ giả định: khi cần tìm nguyên nhân lỗi nhập đơn hàng, đội ngũ có thể dùng dữ liệu thử và nhật ký lỗi đã bỏ thông tin nhạy cảm. Không nhất thiết phải cấp quyền vào cơ sở dữ liệu đang vận hành. Người phụ trách kiểm tra những gì sẽ gửi cho AI, rồi xem xét bản sửa ở khu vực làm việc riêng trước khi đưa vào hệ thống chính.
Kiểm tra code nhận về và chuẩn bị cách xử lý sự cố
Giữ an toàn cho dữ liệu gửi vào chưa đủ để bảo đảm code nhận về cũng an toàn. Đội ngũ vẫn cần rà soát quyền truy cập, cách kiểm tra dữ liệu nhập, việc lưu thông tin bí mật và các thư viện được dùng. Có thể kết hợp kiểm thử, công cụ tìm mật khẩu hoặc khóa bị ghi nhầm vào code và công cụ kiểm tra thư viện. Mỗi cách chỉ hỗ trợ một phần, không thay thế toàn bộ việc đánh giá.
- Nếu lộ mật khẩu hoặc khóa truy cập, ưu tiên vô hiệu hóa hoặc thay mới theo quy trình xử lý sự cố đã thống nhất.
- Ghi nhận phạm vi dữ liệu liên quan và liên hệ người chịu trách nhiệm bảo mật.
- Làm rõ yêu cầu thông báo với khách hàng và các nghĩa vụ áp dụng.
- Lưu bằng chứng cần thiết, xử lý quyền truy cập và cập nhật biện pháp phòng ngừa.
Thống nhất trách nhiệm trước khi bắt đầu
Trước khi bắt đầu, khách hàng và đội ngũ phát triển nên thống nhất công cụ được dùng, dữ liệu không được gửi, người phê duyệt và cách kiểm tra việc thực hiện. Nếu chưa có đủ điều kiện dùng một loại dữ liệu, hãy giữ dữ liệu đó ngoài công cụ và chọn cách làm khác. Sự thuận tiện khi lập trình không thay thế được yêu cầu bảo mật đã cam kết.
Các bước trên dành cho việc dùng AI để hỗ trợ phát triển phần mềm. Nếu bạn xây dựng chatbot hoặc tính năng AI trực tiếp xử lý dữ liệu của người dùng, cần đánh giá thêm dữ liệu đi qua đâu và những rủi ro khi chính sản phẩm đó hoạt động.
Sau khi thống nhất dữ liệu và quyền truy cập, tiếp tục kiểm tra chất lượng mã nguồn và hồ sơ nghiệm thu