Cảnh giác trước nội dung giả mạo do AI tạo ra
Chị Linh, 42 tuổi, một người dùng Facebook, vừa lướt qua một bức ảnh vợ chồng chiến sĩ bế cặp sinh bốn trên mạng xã hội thì lập tức bình luận ‘Chúc mừng hai em’ theo thói quen. Tuy nhiên, chị đã thu hồi ngay lập tức vì cảm thấy có gì đó ‘sai sai’.
Sau khi quan sát thêm lần nữa, chị nhận ra đây chỉ là một bức ảnh được tạo ra bởi công nghệ AI, dùng để minh họa cho một dòng tâm sự trên Facebook. Đây là lần thứ hai chị “suýt” bị AI đánh lừa. Trước đó, chị cũng đã nhầm một video là người thật, việc thật.
Nội dung giả mạo do AI tạo ra đang tràn ngập trên mạng xã hội
Bức ảnh viral trên Facebook do AI tạo ra.
Các chuyên gia cũng đồng tình với quan điểm này. Các công cụ như Google Veo3, Kling AI, DALL·E3, Midjourney… đã đạt đến khả năng tạo hình ảnh, video chân thực đến khó tin.
Ông Đỗ Như Lâm, Giám đốc Đào tạo, Viện Công nghệ Blockchain và Trí tuệ Nhân tạo ABAII, cho biết công nghệ AI tiên tiến mang đến sản phẩm có sức thuyết phục cao. Nhờ vào công nghệ đa phương tiện và mô hình ngôn ngữ tiên tiến, các công cụ này có thể đồng bộ hóa hình ảnh, âm thanh, biểu cảm khuôn mặt và chuyển động tự nhiên, tạo ra những sản phẩm mang tính thuyết phục cao.
Ông Đỗ Như Lâm, Giám đốc Đào tạo, Viện Công nghệ Blockchain và Trí tuệ Nhân tạo ABAII.
Ông Lâm nhận xét những tiến bộ của AI mở ra tiềm năng lớn trong các lĩnh vực như sáng tạo nội dung, quảng cáo, giải trí và giáo dục. Tuy nhiên, chính khả năng tái tạo “như thật” này cũng đặt ra nhiều thách thức về đạo đức, kiểm soát và an ninh thông tin, khi ranh giới giữa thực và ảo ngày càng bị xóa nhòa.
Bài viết Facebook mà chị Linh xem được thu hút gần 300.000 lượt tương tác và hơn 16.000 bình luận. Nhiều người dùng đua nhau vào chúc mừng hoặc bày tỏ tâm sự mà không hề biết đây chỉ là ảnh AI minh họa.
Rủi ro từ nội dung giả mạo do AI tạo ra
Ông Vũ Thanh Thắng – Giám đốc trí tuệ nhân tạo (CAIO) Công ty cổ phần An ninh mạng SCS, cho rằng chúng ta đã bước vào kỷ nguyên mà mọi thứ đều có thể giả mạo. AI đang được tội phạm mạng sử dụng trong lừa đảo, giả danh người nổi tiếng phát tán thông tin sai lệch, gây hoang mang dư luận.
Ông Vũ Thanh Thắng – Giám đốc trí tuệ nhân tạo (CAIO) Công ty cổ phần An ninh mạng SCS.
Có chung ý kiến, ông Đỗ Như Lâm của ABAII nêu ba hệ lụy với người dùng cá nhân do AI gây ra: lừa đảo tài chính, bôi nhọ danh dự và lợi dụng thông tin riêng tư.
Các chuyên gia khuyến nghị người dùng luôn kiểm chứng và xác thực thông tin trước khi ra quyết định; trang bị kiến thức nhận diện nội dung giả mạo; hạn chế chia sẻ thông tin cá nhân trên mạng; tố giác hành vi phát tán nội dung giả mạo.