Một bức ảnh và câu chuyện kèm theo đã lan truyền rộng rãi trên mạng xã hội Facebook từ ngày 4-7, thu hút sự chú ý của đông đảo người dùng. Câu chuyện xoay quanh một nhạc công violin tên Henek, người bị ép buộc tham gia dàn nhạc tại một trại tập trung. Bài đăng mô tả vai trò của ông là chơi đàn trong khi các bạn tù bị dẫn đến phòng hơi ngạt. Henek được cho là đã khóc khi chơi bản ‘Serenade của Schubert’, trong khi cây đàn run rẩy trong tay. Một cô gái trong ảnh quay lại và thì thầm ‘Âm nhạc của anh là điều cuối cùng tôi lắng nghe. Cảm ơn’. Bức ảnh cho thấy một người đàn ông gầy gò đang chơi violin, phía sau là những người gầy gò khác.

Thông tin trong bài đăng còn cho biết Henek đã sống sót qua chiến tranh nhưng sau đó không bao giờ chạm đến chiếc violin nữa. Tuy nhiên, vào ngày 1-8, sau quá trình kiểm chứng và xác minh của AFP, kết quả cho thấy hình ảnh đang lan truyền là sản phẩm của trí tuệ nhân tạo (AI) và câu chuyện về Henek hoàn toàn bịa đặt. Mặc dù các nhạc công có mặt trong cuộc sống bên trong các trại tập trung của Đức quốc xã, nhưng bức ảnh lan truyền hiện tại không mô tả một sự kiện thực tế.

Có nhiều điểm không nhất quán về thị giác trong ảnh, cho thấy đây là sản phẩm được tạo ra bằng AI. Những chi tiết như ngón tay của ‘Henek’ có kích thước không đồng đều và trông vuông vắn, một người đàn ông phía sau chỉ có ba ngón tay, và dây thứ tư của đàn violin biến mất trong bức ảnh. Ngoài ra, tóc của ‘Henek’ dài trong khi những người khác đều cạo đầu, và quần áo của họ không phù hợp với quy định trong các trại tập trung của Đức quốc xã. Đặc biệt, tù nhân trong trại Auschwitz năm 1943 đều phải xăm số hiệu trên cánh tay.

Các chuyên gia của AFP đã sử dụng công cụ phát hiện AI và cho kết quả lên đến 99,9% rằng hình ảnh do AI tạo ra. Ngoài ra, việc tìm kiếm trên mạng cũng chỉ ra rằng ‘Henek’ là một trong nhiều nhân vật tưởng tượng trong các câu chuyện bịa đặt về các nhạc công violin. Hiện tượng này là hệ quả của xu hướng tạo nội dung bằng AI để kiếm tiền, thường nhắm vào sự cảm thông của người phương Tây đối với thảm họa Holocaust, một sự kiện lịch sử đau thương khiến 6 triệu người Do Thái thiệt mạng.

Bảo tàng nhà nước Auschwitz-Birkenau tại Ba Lan đã lên tiếng cảnh báo về việc lan truyền hình ảnh giả do AI tạo ra, có thể bóp méo lịch sử và xúc phạm ký ức của nạn nhân Holocaust. Bảo tàng đã gửi yêu cầu lên Meta, chủ sở hữu Facebook, nhưng vẫn chưa nhận được phản hồi.

Trào lưu sử dụng trí tuệ nhân tạo (AI) và công nghệ deepfake để tạo ra các hình ảnh giả mạo trên mạng xã hội đang ngày càng trở nên phổ biến và biến tướng. Bên cạnh những tiến bộ không thể phủ nhận, AI và công nghệ deepfake đang giúp người dùng mạng xã hội tự tạo những bức ảnh trong vài giây, hình ảnh khó phân biệt thật – giả. Điều này đã làm trầm trọng vấn nạn lan truyền thông tin sai sự thật, ghép ảnh gây tổn thương, xúc phạm danh dự người không liên quan.

Mới đây, trên mạng xã hội xuất hiện loạt hình ảnh người dùng đang bị cảnh sát giao thông lập biên bản, nhưng họ lại tạo dáng và thể hiện thần thái như thể đang khoe tài sản đắt tiền. Những hình ảnh này được tạo ra bởi AI và đã khiến nhiều người nhầm lẫn. Các chuyên gia cho rằng, ảnh tạo ra từ AI đang làm tăng vấn nạn tạo ra tin giả, làm xói mòn nền tảng của sự thật, khiến việc xác định tin tức, hình ảnh thật – giả ngày càng khó.

Điều này đã dẫn đến sự mất lòng tin vào các phương tiện truyền thông và nguồn tin đáng tin cậy. Nhiều quốc gia đã tích cực xây dựng quy định pháp luật và biện pháp kỹ thuật kiểm soát, đối phó kẻ xấu. Một số bang của Mỹ có luật cấm tạo, phát tán deepfake với mục đích quấy rối, đe dọa hoặc lừa đảo. Hàn Quốc tăng cường biện pháp pháp lý, sau nhiều vụ bê bối deepfake tấn công giới giải trí. Trung Quốc yêu cầu các nhà cung cấp dịch vụ deepfake phải có trách nhiệm kiểm duyệt nội dung và yêu cầu người dùng xác thực danh tính.

Mỗi người dùng cần nâng cao trách nhiệm cá nhân, không thể vì “cho vui” mà vô tình tiếp tay cho tin giả, thậm chí vi phạm pháp luật. Việc nâng cao nhận thức và trách nhiệm của người dùng mạng xã hội là rất quan trọng trong việc ngăn chặn sự lan tràn của tin giả và hình ảnh giả mạo.

Trong bối cảnh công nghệ đang phát triển nhanh chóng, việc quản lý và kiểm soát AI và deepfake đang trở thành một thách thức lớn. Tuy nhiên, bằng cách nâng cao nhận thức và trách nhiệm của người dùng, cũng như sự vào cuộc của các cơ quan chức năng, chúng ta có thể hy vọng giảm thiểu được tác động tiêu cực của công nghệ này.