Công cụ phát hiện AI hoạt động như thế nào? Mô hình, Tín hiệu, Điểm số và Hạn chế

Câu trả lời nhanh

Các công cụ phát hiện AI ước tính liệu một đoạn văn bản có giống với các ví dụ về nội dung do AI tạo ra hay do con người viết hay không. Các hệ thống hiện đại có thể sử dụng bộ phân loại học sâu, mô hình cấp câu, các đặc điểm thống kê, các mẫu ngôn ngữ hoặc kết hợp các phương pháp này. Kiến trúc chính xác khác nhau tùy theo nhà cung cấp và thường là độc quyền. Vì đầu ra mang tính xác suất, một công cụ phát hiện có thể tạo ra kết quả dương tính giả và âm tính giả, đặc biệt với văn bản ngắn, đã chỉnh sửa, hỗn hợp hoặc đa ngôn ngữ.

Phát hiện hiện đại không chỉ dựa vào độ khó hiểu (Perplexity) và tính bùng nổ (Burstiness)

Độ khó hiểu (perplexity) và tính bùng nổ (burstiness) là những khái niệm lịch sử hữu ích để giải thích khả năng dự đoán và sự biến đổi của văn bản, nhưng chúng không nên được coi là động cơ phổ quát đằng sau các công cụ phát hiện AI hiện tại. Ví dụ, GPTZero tuyên bố rằng họ đã không còn sử dụng độ khó hiểu và tính bùng nổ để phát hiện AI sau khi áp dụng kiến trúc dựa trên học sâu. Các nhà cung cấp khác có thể sử dụng các phương pháp khác hoặc độc quyền.

Từ văn bản đến xác suất

Một công cụ phát hiện thường chuyển đổi văn bản thành các đặc điểm mà mô hình có thể đọc được, đánh giá các mẫu đã học từ các ví dụ của con người và AI, sau đó tạo ra xác suất ở cấp độ tài liệu hoặc cấp độ câu. Điểm số chính xác không phải là một sự thật về quyền tác giả; đó là ước tính của mô hình dựa trên dữ liệu huấn luyện, ngưỡng và giả định của riêng nó.

Tại sao kết quả khác nhau

Kết quả có thể thay đổi tùy theo độ dài mẫu, ngôn ngữ, mô hình AI được sử dụng để tạo bản nháp, mức độ chỉnh sửa của con người, văn bản chuyên biệt theo lĩnh vực và phiên bản hiện tại của công cụ phát hiện. Đó là lý do tại sao cùng một đoạn văn có thể nhận được các điểm số khác nhau từ các dịch vụ khác nhau.

Các câu hỏi thường gặp

Các công cụ phát hiện AI có biết ai đã viết văn bản không?

Không. Chúng phân loại các mẫu trong văn bản đã gửi; chúng không quan sát quá trình viết.

Tại sao các công cụ phát hiện khác nhau lại không đồng nhất?

Chúng sử dụng các mô hình, ngưỡng, dữ liệu huấn luyện và quy tắc tài liệu khác nhau.

Độ khó hiểu (perplexity) và tính bùng nổ (burstiness) có còn được sử dụng không?

Một số hệ thống có thể sử dụng các đặc điểm thống kê liên quan, nhưng chúng không phải là mô tả phổ quát về việc phát hiện AI hiện đại.