Đề xuất cấm dùng AI để tạo hình ảnh, video lừa đảo, trục lợi

Sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) trong những năm gần đây đã mang lại những bước tiến vượt bậc trong nhiều lĩnh vực, từ y tế, giáo dục cho đến nghệ thuật và giải trí. Tuy nhiên, với sự tiện lợi và khả năng tạo ra những hình ảnh, video cực kỳ chân thực, AI cũng đang dần bị lợi dụng vào mục đích xấu, đặc biệt là trong việc sản xuất các nội dung lừa đảo, gian lận hoặc trục lợi. Các công cụ AI hiện nay có thể dễ dàng tạo ra những hình ảnh, video giả mạo với độ chính xác cao, gây ra sự hiểu lầm nghiêm trọng và ảnh hưởng đến uy tín, danh dự của cá nhân, tổ chức.

Vấn đề này không chỉ đơn thuần là mối lo ngại về công nghệ mà còn đặt ra một thách thức lớn đối với các cơ quan quản lý và pháp luật, yêu cầu có những biện pháp ngăn chặn và kiểm soát kịp thời. Việc đề xuất cấm sử dụng AI trong việc tạo ra hình ảnh và video lừa đảo, trục lợi là một vấn đề cấp bách, đụng chạm đến cả quyền lợi cá nhân và an ninh mạng của xã hội. Để bảo vệ công dân và duy trì một môi trường trực tuyến an toàn, công bằng, việc xây dựng các quy định pháp lý rõ ràng và hiệu quả là điều cần thiết.

1. Định nghĩa và bối cảnh đặt ra vấn đề

Công nghệ AI đã nhanh chóng chuyển đổi từ một hiện tượng "giải trí" công nghệ thành một mối đe dọa an ninh khó lường, gây ra những rủi ro nghiêm trọng về tài chính, chính trị và xã hội. Về mặt kỹ thuật, AI được tạo ra bằng các thuật toán học sâu tinh vi, đặc biệt là thông qua Mạng đối nghịch tạo sinh (GANs). Kiến trúc này bao gồm hai thành phần chính: một mô hình tạo (Generator) và một mô hình phân biệt (Discriminator). Mô hình tạo có nhiệm vụ sản xuất ra dữ liệu giả, trong khi mô hình phân biệt cố gắng phân biệt giữa dữ liệu thật và giả. Hai mô hình này liên tục "cạnh tranh" và học hỏi lẫn nhau, khiến cho sản phẩm giả mạo ngày càng trở nên tinh vi và khó phân biệt với thực tế hơn. Các loại AI phổ biến hiện nay không chỉ giới hạn ở hình ảnh hoặc video mà còn bao gồm AI âm thanh và thậm chí cả AI văn bản, mỗi loại đều tiềm ẩn những rủi ro bảo mật đáng kể, từ giả mạo giọng nói để lừa đảo tài chính đến tạo email lừa đảo.  

Trong bối cảnh bùng nổ của AI tạo sinh, việc tạo ra các nội dung giả mạo ngày nay trở nên dễ dàng hơn bao giờ hết, cho phép bất kỳ ai với một chiếc máy tính và vài giờ nghiên cứu đều có thể thực hiện. Điều này đặt ra một thách thức lớn, đòi hỏi các chính phủ phải xem xét một cách nghiêm túc về cách thức quản lý và đối phó. Báo cáo này không chỉ nhằm mục đích liệt kê các mối nguy hiểm mà còn phân tích sâu sắc các lựa chọn chính sách, so sánh các cách tiếp cận của các quốc gia khác nhau và đề xuất một chiến lược phù hợp cho bối cảnh của Việt Nam, nhằm tìm ra sự cân bằng giữa việc bảo vệ an toàn cho người dân và việc duy trì một môi trường mở cho sự đổi mới công nghệ.  

2. Mối đe dọa và tác động của AI trong việc tạo hình ảnh, video trục lợi

Công nghệ AI đã trở thành một công cụ mạnh mẽ và nguy hiểm trong tay tội phạm mạng, gây ra những thiệt hại nghiêm trọng trên nhiều phương diện.

2.1. Thiệt hại tài chính và lừa đảo

Mối đe dọa tài chính từ AI đã đạt đến một quy mô đáng báo động. Chỉ trong ba tháng đầu năm 2025, các vụ lừa đảo sử dụng AI đã gây ra thiệt hại toàn cầu lên đến hơn 200 triệu USD. Một trong những vụ việc chấn động nhất xảy ra vào tháng 2 cùng năm tại Hồng Kông, khi một nhân viên tài chính của công ty kỹ thuật Arup đã bị lừa chuyển khoản 25 triệu USD. Kẻ lừa đảo đã sử dụng công nghệ AI để giả mạo giám đốc tài chính và các đồng nghiệp trong một cuộc gọi video trực tuyến, tạo ra một kịch bản giả mạo cực kỳ thuyết phục để ra lệnh chuyển tiền. Nhân viên này đã tin rằng mình đang tham gia một cuộc họp hợp pháp và đã tuân lệnh, chỉ để phát hiện ra mình đã trở thành nạn nhân của một vụ lừa đảo tinh vi. Các vụ việc tương tự cũng đã xảy ra ở Trung Quốc, nơi một nữ nhân viên tài chính bị lừa chuyển 1,86 triệu nhân dân tệ và một vụ khác lừa đảo 200.000 USD chỉ bằng giọng nói AI của giám đốc điều hành.  

Sự phổ biến của các công cụ AI tạo sinh đã làm "dân chủ hóa" tội phạm mạng, cho phép những kẻ xấu không cần có kỹ năng công nghệ đặc biệt vẫn có thể thực hiện các cuộc tấn công tinh vi. Điều này làm cho AI trở thành một mối đe dọa "đại chúng", không còn giới hạn ở các chuyên gia hay nhóm tội phạm tinh vi. Điều này đặt ra một vấn đề sâu sắc hơn: các vụ lừa đảo đơn lẻ chỉ là một phần của mối đe dọa. Khi người dân ngày càng khó phân biệt được nội dung thật và giả, một cuộc khủng hoảng niềm tin sâu sắc vào nội dung số đã và đang diễn ra. Sự hoài nghi lan rộng này có thể làm suy yếu lòng tin vào các tổ chức, các phương tiện truyền thông chính thống và các quy trình dân chủ, tạo ra một nền tảng dễ bị tổn thương cho các cuộc tấn công thông tin sai lệch trên diện rộng. Cuộc chiến chống AI đã trở thành một cuộc chạy đua vũ trang tốn kém, với các chuyên gia ước tính thị trường công nghệ phát hiện AI sẽ tăng trưởng 42% mỗi năm, từ 5,5 tỷ USD năm 2023 lên 15,7 tỷ USD vào năm 2026.  

2.2. Thao túng chính trị và xã hội

AI cũng là một công cụ mạnh mẽ để thao túng chính trị và gây bất ổn xã hội. Năm 2022, một video AI gây chấn động đã sử dụng khuôn mặt của Tổng thống Ukraine Volodymyr Zelenskyy để kêu gọi quân đội của mình đầu hàng, một hành vi có thể gây ra hậu quả nghiêm trọng về an ninh quốc gia. Tương tự, tại Mỹ, hàng nghìn cử tri đã nhận được các cuộc gọi điện thoại giả mạo giọng nói Tổng thống Joe Biden, khuyến khích họ không đi bỏ phiếu trong một cuộc bầu cử sơ bộ. Vụ việc này đã làm dấy lên những lo ngại nghiêm trọng về việc AI có thể gây rối loạn trong các chiến dịch tranh cử.  

AI cũng có thể được sử dụng để bôi nhọ danh tiếng của các chính trị gia và thậm chí thao túng thị trường tài chính. Một video giả mạo giám đốc điều hành với các tuyên bố gây thiệt hại về công ty có thể khiến giá cổ phiếu tụt dốc. Các dữ liệu cho thấy mối đe dọa này mang tính toàn cầu, với 63% các vụ tấn công có yếu tố xuyên biên giới và Bắc Mỹ chiếm 38% số vụ việc, phần lớn trong số đó liên quan đến các nhân vật chính trị.  

2.3. Xâm phạm quyền riêng tư và danh dự cá nhân

Một trong những dạng lạm dụng phổ biến và gây tổn thương nhất của AI là việc tạo ra nội dung khiêu dâm phi đồng thuận. AI khiêu dâm đã nhắm vào cả những người nổi tiếng như ca sĩ Drake và Taylor Swift lẫn người dân thường, gây ra những tổn thương tâm lý nghiêm trọng và tạo cơ hội cho các hành vi tống tiền và trả thù cá nhân. Vụ việc tại Hàn Quốc, nơi một đường dây chuyên chụp ảnh nữ sinh trung học để tạo và phát tán video khiêu dâm AI, là một ví dụ đau lòng về cách công nghệ này bị lạm dụng để hủy hoại danh dự và nhân phẩm của các nạn nhân. Các đối tượng lừa đảo thường sử dụng các video giả mạo hoặc ghi âm nhạy cảm để đe dọa, gây hoang mang và ép buộc nạn nhân trả tiền để tránh bị phát tán thông tin.  

>> Xem thêm: Tội lừa đảo chiếm đoạt tài sản theo Điều 174 Bộ luật hình sự Việt Nam

3. Khung pháp lý và chính sách hiện hành trên thế giới 

Đối mặt với những thách thức từ AI, các quốc gia trên thế giới đã và đang xây dựng các khung pháp lý để quản lý công nghệ này. Mặc dù không có một mô hình tiêu chuẩn chung, một điểm chung quan trọng nổi lên là không quốc gia nào chọn cấm công nghệ AI hoàn toàn. Thay vào đó, họ tập trung vào việc điều chỉnh hành vi lạm dụng cụ thể và áp đặt các nghĩa vụ minh bạch.

• Liên minh châu âu (EU): Đạo luật AI của EU áp dụng mô hình quản lý rủi ro bốn cấp độ, trong đó AI được xếp vào nhóm "rủi ro hạn chế". Đạo luật này không cấm AI mà tập trung vào yêu cầu minh bạch. Cụ thể, các nhà cung cấp AI tạo sinh phải đảm bảo nội dung do hệ thống của họ tạo ra được đánh dấu bằng định dạng có thể đọc được bằng máy, ví dụ như watermark kỹ thuật số hoặc metadata. Cách tiếp cận này cũng được các nhà cung cấp AI lớn như Google áp dụng, với việc tích hợp công nghệ tạo hình mờ độc quyền SynthID vào các khung hình video để xác định nguồn gốc. Tương tự, OpenAI cho biết họ đã từ chối hơn 250.000 yêu cầu tạo ảnh AI của các ứng cử viên trong cuộc bầu cử Tổng thống Mỹ, thể hiện cam kết tự điều chỉnh.  
•  Hoa kỳ: Chính sách của Mỹ về AI được thể hiện qua một hệ thống pháp luật "chắp vá" ở cả cấp liên bang và tiểu bang. Ở cấp liên bang, Đạo luật Take It Down được ban hành để hình sự hóa việc phát tán hình ảnh khiêu dâm AI phi đồng thuận. Đạo luật này yêu cầu các nền tảng phải gỡ bỏ nội dung vi phạm trong vòng 48 giờ sau khi nhận được yêu cầu. Ở cấp tiểu bang, các luật như của Minnesota và California lại nhắm vào AI liên quan đến bầu cử. Luật của California xác định việc tạo và công bố AI chính trị là bất hợp pháp nếu xảy ra trong vòng 120 ngày trước ngày bầu cử và cho phép tòa án áp đặt các mức phạt dân sự. Các luật này cũng miễn trừ rõ ràng các nội dung châm biếm và nhại lại, cho thấy sự cân nhắc giữa an ninh và tự do biểu đạt.  
• Trung quốc: Trung Quốc là một trong những quốc gia đi đầu trong việc đưa ra các quy định toàn diện. Các quy định về "công nghệ tổng hợp sâu" của nước này, có hiệu lực từ tháng 1 năm 2023, yêu cầu người dùng phải đồng ý nếu hình ảnh của họ được sử dụng trong các công nghệ tổng hợp sâu và cấm sử dụng chúng để phát tán tin giả. Các dịch vụ AI cũng phải xác thực danh tính thực của người dùng và bắt buộc phải thông báo cho người dùng biết nội dung đã bị thay đổi bằng công nghệ.  
• Úc và anh: Tương tự như Mỹ, Úc và Anh đã hình sự hóa hành vi tạo ra và chia sẻ AI khiêu dâm phi đồng thuận. Luật của Úc đề ra mức án tù lên tới 6 năm cho hành vi này, tăng lên 7 năm nếu đối tượng phạm tội cũng là người tạo ra nội dung đó.  

Bảng sau đây tóm tắt các khung pháp lý nêu trên:

Sự đồng thuận quốc tế này cho thấy các chính phủ trên thế giới đã nhận ra rằng lệnh cấm công nghệ là một chiến lược không hiệu quả. Thay vì tập trung vào việc cấm đoán một công cụ, hướng tiếp cận tập trung vào việc quản lý rủi ro và buộc các nhà cung cấp phải chịu trách nhiệm về sản phẩm của họ là một chiến lược hiệu quả và bền vững hơn, phù hợp để Việt Nam học hỏi.

4. Lập luận phản đối và thách thức của lệnh cấm hoàn toàn

Một lệnh cấm hoàn toàn đối với công nghệ AI sẽ phải đối mặt với nhiều lập luận phản đối và thách thức nghiêm trọng, bắt nguồn từ bản chất "lưỡng dụng" của công nghệ và các vấn đề về thực thi pháp lý.

4.1. Vấn đề tự do ngôn luận và sáng tạo

Công nghệ AI không chỉ được sử dụng cho mục đích lừa đảo mà còn có nhiều ứng dụng tích cực và hữu ích trong đời sống. Trong lĩnh vực điện ảnh và giải trí, AI được dùng để trẻ hóa diễn viên, tái tạo các nhân vật lịch sử hoặc thậm chí là tái hiện các diễn viên đã qua đời, giúp tiết kiệm đáng kể chi phí và thời gian sản xuất phim. Trong giáo dục và đào tạo, công nghệ này mang đến cách tiếp cận sinh động hơn, chẳng hạn như tạo ra các nhân vật mô phỏng để giúp học sinh tương tác trực tiếp với bài giảng, hoặc hỗ trợ mô phỏng tình huống thực tế cho y tế và an ninh.  

Một trong những ứng dụng quan trọng khác là trong nghệ thuật và châm biếm xã hội. AI đã được sử dụng như một hình thức châm biếm chính trị để tạo ra những video hài hước nhưng đầy tính phê phán, làm cho các nhân vật quyền lực và dường như không thể động chạm trở nên dễ bị tổn thương và bị phơi bày. Các luật pháp ở các quốc gia như Mỹ đã miễn trừ rõ ràng các nội dung nhại lại hoặc châm biếm khỏi các quy định về AI chính trị, cho thấy sự công nhận tầm quan trọng của các hình thức biểu đạt này. Một lệnh cấm hoàn toàn sẽ vô tình cản trở những ứng dụng có lợi này, đồng thời vi phạm quyền tự do ngôn luận và biểu đạt, một quyền cơ bản được ghi nhận trong Hiến pháp Việt Nam và các công ước quốc tế mà Việt Nam là thành viên.  

4.2. Thách thức kỹ thuật

Việc cấm đoán công nghệ AI sẽ không thể giải quyết được vấn đề một cách triệt để do những thách thức kỹ thuật cố hữu. Cuộc chiến giữa công nghệ tạo AI và công nghệ phát hiện AI được ví như một cuộc "chạy đua vũ trang" không hồi kết. Các thuật toán AI liên tục được cải tiến để vượt qua các hệ thống kiểm tra, khiến các công cụ phát hiện luôn ở thế bị động. Các công cụ phát hiện hiện tại vẫn còn nhiều hạn chế, chúng chưa hoàn toàn tự động và đòi hỏi lượng dữ liệu khổng lồ để đào tạo. Ngay cả khi được trang bị tốt, các công cụ này vẫn có thể không nhận diện được AI một cách chính xác trong nhiều trường hợp.  

Một vấn đề khác là việc công khai các công nghệ phát hiện có thể vô tình mang lại lợi thế cho những kẻ xấu. Bằng cách phân tích cách các công cụ phát hiện hoạt động, những kẻ tạo AI có thể cải thiện các thuật toán của mình để tránh bị phát hiện, làm cho cuộc chiến trở nên khó khăn hơn. Điều này cho thấy việc chỉ dựa vào các giải pháp kỹ thuật là không đủ và việc cấm đoán công nghệ cũng sẽ không hiệu quả vì nó không ngăn được sự phát triển của công nghệ.  

4.3. Thách thức thực thi pháp lý

Một lệnh cấm toàn diện cũng sẽ đối mặt với những thách thức pháp lý và thực thi gần như không thể vượt qua. Thứ nhất, bản chất xuyên biên giới của tội phạm AI là một rào cản lớn. 63% các vụ tấn công AI có yếu tố xuyên biên giới, khiến việc xác định thẩm quyền pháp lý, truy vết thủ phạm và phối hợp với các cơ quan chức năng ở quốc gia khác trở nên cực kỳ phức tạp. Thứ hai, tính ẩn danh của các đối tượng trên không gian mạng khiến việc truy vết và bắt giữ trở nên khó khăn. Các đối tượng lừa đảo thường ở nước ngoài, theo sát tình hình trong nước để giăng bẫy nạn nhân, tận dụng những lỗ hổng pháp lý và công nghệ để trốn tránh trách nhiệm. Một lệnh cấm chỉ có thể được áp dụng với các cá nhân trong nước, trong khi các đối tượng nước ngoài lại nằm ngoài tầm kiểm soát của các cơ quan thực thi pháp luật.  

Việc cấm một công nghệ mang tính "lưỡng dụng" sẽ không chỉ không giải quyết được vấn đề gốc rễ mà còn có thể đẩy các hoạt động lạm dụng vào "ngầm hóa", nơi chúng càng khó kiểm soát hơn. Điều này nhấn mạnh rằng lập pháp cần tập trung vào việc xây dựng các cơ chế trừng phạt hiệu quả và tăng cường hợp tác quốc tế, thay vì một lệnh cấm không thể thực thi.

5. Đề xuất khung chính sách đa chiều và toàn diện cho việt nam

Từ phân tích trên, rõ ràng là một lệnh cấm hoàn toàn không phải là giải pháp hiệu quả cho mối đe dọa AI. Thay vào đó, Việt Nam nên áp dụng một khung chính sách đa chiều, kết hợp giữa các biện pháp pháp lý, kỹ thuật và giáo dục để quản lý rủi ro và bảo vệ xã hội một cách bền vững.

5.1. Chuyển đổi từ "cấm" sang "quản lý rủi ro và trừng phạt hành vi"

Thay vì cấm công nghệ, chính sách nên tập trung vào việc trừng phạt các hành vi lạm dụng cụ thể. Cần sửa đổi và bổ sung các văn bản pháp luật hiện hành, chẳng hạn như Luật An ninh mạng, để cụ thể hóa các chế tài đối với hành vi sử dụng AI nhằm mục đích lừa đảo, trục lợi, thao túng chính trị, hoặc bôi nhọ danh dự của cá nhân, tổ chức. Cơ sở để truy tố nên là "ý đồ lừa đảo" và "thiệt hại thực tế", tương tự như cách tiếp cận của luật pháp Mỹ và Úc. Điều này đảm bảo rằng các ứng dụng có lợi và sáng tạo của AI vẫn được phép phát triển, trong khi những hành vi độc hại sẽ bị xử lý nghiêm khắc.  

5.2. Bắt buộc minh bạch và dán nhãn đối với nội dung ai tạo ra

Một biện pháp hiệu quả là áp đặt nghĩa vụ minh bạch đối với các nhà cung cấp dịch vụ AI và các nền tảng trực tuyến. Theo đó, cần yêu cầu các nhà phát triển phải tích hợp các công nghệ đánh dấu nội dung như watermark hoặc metadata, giúp người dùng dễ dàng nhận biết đâu là nội dung do AI tạo ra và đâu là nội dung thật. Điều này phù hợp với Đạo luật AI của EU và quy định của Trung Quốc, đồng thời cũng được các công ty lớn như Google áp dụng với công nghệ SynthID. Hơn nữa, các nền tảng mạng xã hội cần có cơ chế rõ ràng để người dùng báo cáo nội dung AI lừa đảo và có nghĩa vụ gỡ bỏ kịp thời, tương tự như quy định của Đạo luật Take It Down của Mỹ.  

5.3. Tăng cường hợp tác quốc tế và hợp tác công tư

Để đối phó với tính chất xuyên biên giới của tội phạm AI, Việt Nam cần tăng cường hợp tác quốc tế. Cần thiết lập các kênh liên lạc chặt chẽ với các nền tảng mạng xã hội toàn cầu để kịp thời phát hiện và gỡ bỏ các nội dung AI độc hại. Hơn nữa, việc phối hợp với các cơ quan an ninh mạng quốc tế sẽ giúp đối phó hiệu quả hơn với các vụ tấn công xuyên biên giới, đặc biệt trong bối cảnh Việt Nam đang hội nhập quốc tế mạnh mẽ. Hợp tác công tư cũng là một trụ cột quan trọng, nơi chính phủ và các công ty công nghệ cùng nhau nghiên cứu và phát triển các công cụ phát hiện AI mới, tạo ra một hệ thống phòng thủ mạnh mẽ hơn.  

5.4. Nâng cao nhận thức và năng lực tự vệ của cộng đồng

Không có biện pháp pháp lý hay kỹ thuật nào là hoàn hảo. Vì vậy, việc trang bị kiến thức cho người dân là một giải pháp phòng ngừa hiệu quả nhất. Chính phủ nên phát động các chiến dịch truyền thông giáo dục công chúng về các mối đe dọa từ AI, cung cấp các dấu hiệu nhận biết đơn giản như chất lượng hình ảnh kém, âm thanh không khớp với chuyển động của môi, hoặc các cử động gượng gạo. Người dân cần được khuyến khích áp dụng các biện pháp xác minh thông tin, như gọi lại cho người gọi bằng số điện thoại cá nhân hoặc đặt các câu hỏi cá nhân chỉ có hai người biết. Cuối cùng, cần khuyến khích người dân ngay lập tức báo cáo cho cơ quan chức năng khi phát hiện mình là nạn nhân hoặc nghi ngờ một vụ tấn công AI để được hỗ trợ kịp thời.  

Khung chính sách này hoạt động dựa trên logic của một chuỗi cung ứng: yêu cầu các nhà cung cấp AI phải tích hợp công nghệ chống giả mạo ở đầu chuỗi; các nền tảng phải có trách nhiệm kiểm soát và gỡ bỏ ở giữa chuỗi; và người dùng được trao quyền tự vệ ở cuối chuỗi. Chiến lược này không chỉ giải quyết vấn đề trước mắt mà còn tạo ra một hệ sinh thái bền vững, cho phép đổi mới vẫn tiếp diễn trong khi xây dựng các hàng rào bảo vệ vững chắc chống lại hành vi lạm dụng.

Kết luận

Mối đe dọa từ công nghệ AI đối với an ninh tài chính, chính trị và xã hội là không thể xem nhẹ. Tuy nhiên, việc đề xuất một lệnh cấm hoàn toàn đối với công nghệ này là một giải pháp đơn giản nhưng không hiệu quả. Lệnh cấm không chỉ gây khó khăn cho các ứng dụng tích cực mà còn không thể thực thi được trong một môi trường số toàn cầu và ẩn danh.

Thay vào đó, một chiến lược chính sách đa chiều và toàn diện là con đường đúng đắn nhất. Bằng cách tập trung vào việc quản lý rủi ro, trừng phạt các hành vi lạm dụng cụ thể, yêu cầu các nhà cung cấp công nghệ phải chịu trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng, Việt Nam có thể xây dựng một hệ thống phòng thủ mạnh mẽ và linh hoạt để đối phó với những thách thức đang và sẽ tiếp tục phát triển từ công nghệ AI độc hại. Chiến lược này không chỉ bảo vệ người dân mà còn thúc đẩy một môi trường số an toàn, đáng tin cậy và cân bằng.

Mọi vướng mắc pháp lý hãy gọi ngay hotline tổng đài luật sư hình sự: 1900.6162 để được tư vấn pháp luật trực tiếp.Trân trọng!