Trí tuệ nhân tạo 'hồi sinh' người chết nhưng đầy nguy hại tiềm ẩn

Deep Nostalgia một là tính năng trên ứng dụng MyHeritage sử dụng trí tuệ nhân tạo (AI), hợp nhất các hoạt ảnh để tạo ra các video ngắn, làm cho các đối tượng trong ảnh trông như thể họ đang gật đầu, mỉm cười và hơn thế nữa. Công nghệ này đã trở nên nổi tiếng sau khi lan truyền vào năm ngoái. MyHeritage thừa nhận rằng một số người thấy tính năng này "rùng rợn" trong khi những người khác lại cho rằng nó "kỳ diệu".

Trí tuệ nhân tạo “hồi sinh” người đã khuất

Cherie Bergman, 25 tuổi, đã tải bức ảnh người cha đã qua đời của mình lên MyHeritage, một ứng dụng được mệnh danh là có thể "hồi sinh" người chết. Cherie không khỏi bàng hoàng và xúc động khi cô bắt gặp ánh mắt của cha mình lần đầu tiên kể từ cái chết bi thảm của ông tám năm trước đó.

Cherie đã làm theo, bằng cách tải lên bức ảnh của cha cô, người đã đột ngột qua đời vào năm 2013 ở tuổi 67. Với một vài thao tác đơn giản trên điện thoại, những hình ảnh tĩnh bỗng nhiên trở nên sống động, cô nhìn thấy cha mình chớp mắt và mỉm cười từ phía sau màn hình như thể ông đang ở ngay đó với cô. Cherie cho biết cảm giác không giống như xem lại một video cũ, nó là một thứ gì đó rất khác biệt.

Trong đoạn clip dài 15 giây, thu hút 5,5 triệu lượt xem ghi lại phản ứng của Cherie trên TikTok, cô lộ rõ ​​vẻ choáng ngợp, tay bịt chặt miệng vì sốc. Khi biểu cảm nhăn nhó của Cherie trong video bị nhiều người hiểu lầm là đau khổ, cô giải thích: “Đó không phải là một cảm giác buồn, đó là một cảm giác hạnh phúc vô cùng, nó giống tôi được gặp lại cha mình một lần nữa”. Cherie nhanh chóng đưa đoạn video ngắn cho mẹ và các anh chị em. Tất cả cũng đều không khỏi choáng váng.

Một video TikTok về Deep Nostalgia khác đạt được 39 triệu lượt xem liên quan đến cựu chiến binh người Mỹ 99 tuổi Jake Larson. Cháu gái của Jake đã quay lại phản ứng của ông mình khi nhìn thấy một bức ảnh động về người vợ quá cố đã qua đời cách đây 32 năm của mình. Ông Jake không thể che giấu những giọt nước mắt xúc động: “Cô ấy còn sống. Tôi không thể tin rằng điều này là thật. Tôi đã rơi nước mắt khi cô ấy cười với tôi. Cảm giác giống như ai đó từ trên trời xuống và ban phước cho tôi vậy”.

Sẽ ra sao nếu AI “hồi sinh” cả người sống?

Deep Nostalgia, được xây dựng bởi công ty D-ID của Tel Aviv, chuyên về video hỗ trợ AI. Kể từ khi ra mắt Deep Nostalgia ra mắt vào tháng 2 năm 2021, MyHeritage cho biết họ đã tạo hoạt ảnh cho hơn 100 triệu bức ảnh. Ở đỉnh cao của sự nổi tiếng, nó là ứng dụng được tải xuống nhiều nhất trên App Store của Apple, xử lý hàng nghìn khuôn mặt mỗi giờ.

Khi khách hàng tải ảnh lên, Deep Nostalgia sẽ phóng to khuôn mặt của đối tượng và tăng độ rõ nét. Trí tuệ nhân tạo kết hợp khuôn mặt với các video ghi lại chuyển động của một người như gật đầu, chớp mắt hay mỉm cười.

Mỗi video được gọi là "deepfake", về cơ bản là những nội dung giả được tạo ra từ AI, có thể là hình ảnh, video, âm thanh mà rất khó phân biệt thật giả chỉ bằng mắt thường. 

Deepfake đã gây ra nhiều tranh cãi kể từ khi xuất hiện vào năm 2017 và khi công nghệ tiến bộ, mọi thứ trở nên phức tạp hơn. Chúng được sử dụng để tạo những video khiêu dâm và hoặc các video giả mạo lan truyền tuyên bố của các chính trị gia.

Deep Nostalgia là một phiên bản tương đối vô hại của công nghệ này nhưng cũng rất khó để biết nó có thể bị lạm dụng như thế nào. Năm ngoái, MyHeritage nói rằng họ đã không đưa tính năng giọng nói vào ứng dụng để ngăn chặn việc lạm dụng, chẳng hạn như tạo video deepfake về người sống.

Tuy nhiên, vào tháng 3, MyHeritage đã làm điều ngược lại, các khuôn mặt được phục hồi có thể nói chuyện bằng cách sử dụng giọng nói của robot.

Sarah Vanunu, Giám đốc Quan hệ Công chúng của MyHeritage, thừa nhận rằng ứng dụng không có công cụ để ngăn chặn lạm dụng. Thay vào đó, công ty chỉ khuyến cáo mọi người lựa chọn sử dụng các dịch vụ của mình một cách có trách nhiệm.

Ông Vanunu nói: “Bạn phải sử dụng tính năng này trên những bức ảnh mà bạn sở hữu chứ không phải trên những bức ảnh những người còn sống mà không có sự cho phép của họ. Đó là một phần của các điều khoản và điều kiện mà mọi người phải đọc trước khi họ làm bất cứ điều gì khác”.

Theo các chuyên gia, công nghệ như Deep Nostalgia đặt ra những câu hỏi quan trọng cho tương lai. Sam Gregory, một người am hiểu về deepfake và quyền con người nói rằng các quy tắc rõ ràng về quyền riêng tư rất quan trọng vì các video deepfake ngày càng trở nên tinh vi và khó phân biệt thật giả. Cần phải đặt ra các quy tắc về sự đồng thuận và gắn nhãn các tác phẩm giả mạo để mọi người cảnh giác.

Tất nhiên, không thể phủ nhận những mặt tiềm năng của công nghệ. Đối với những người như Cherie, deepfake đã phần nào giúp họ hàn gắn được những tổn thương khi mất đi người thân.

Theo vietnamnet.vn

AI khôi phục gương mặt của 54 vị hoàng đế La Mã

Những bức ảnh chân dung do AI tạo ra này sẽ khiến bạn rất ngạc nhiên