Việc các công ty công nghệ tự do thu thập tác phẩm sáng tạo có bản quyền trên Internet để huấn luyện mô hình AI mà không xin phép đang xâm phạm trực tiếp quyền lợi của tác giả. Dù quá trình này thường được so sánh với sự học hỏi của con người, quy mô thương mại hóa của AI tạo sinh đòi hỏi phải có cơ chế cấp phép và chia sẻ doanh thu minh bạch. Do đó, hành vi khai thác dữ liệu huấn luyện AI khi chưa có sự đồng thuận của chủ sở hữu cần bị coi là vi phạm bản quyền.