Ông Nguyễn Phú Lương, Phó Giám đốc Trung tâm Giám sát an toàn không gian mạng Quốc gia (NCSC), Cục An toàn thông tin, Bộ Thông tin và Truyền thông. Ảnh: Hoàng Nam

Đó là khẳng định của ông Nguyễn Phú Lương, Phó Giám đốc Trung tâm Giám sát an toàn không gian mạng Quốc gia (NCSC), Cục An toàn thông tin, Bộ Thông tin và Truyền thông (TTTT).

Cảnh giác với các ứng dụng, thận trọng với mọi thông tin

Vừa qua, ứng dụng Zalo AI đã tạo sự lan tỏa lớn trên mạng xã hội khi có nhiều người dùng tham gia chỉnh sửa hình ảnh bằng công cụ này, nên đã gây chú ý trong dư luận. Với ứng dụng Zalo AI, đây là ứng dụng của Công ty Cổ phần VNG, một công ty của Việt Nam nên luôn cam kết tuân thủ đầy đủ các quy định của pháp luật Việt Nam.

Tuy nhiên, trên không gian mạng, không chỉ có ứng dụng Zalo AI là có tính năng thu thập, chỉnh sửa  hình ảnh, yêu cầu cung cấp thông tin về giới tính, độ tuổi… mà trước đây đã có nhiều ứng dụng khác cũng có tính năng thu thập thông tin cá nhân, nhưng không tạo ra hiệu ứng lan truyền như Zalo AI vừa qua.

Các phụ huynh khi muốn cho con em mình tiếp cận các công cụ AI, cũng như các thông tin trên không gian mạng, cần tuân thủ nguyên tắc 4T: Tuân thủ, thông minh, thận trọng, tử tế. Trong đó, tuân thủ là tuân thủ tất cả những nguyên tắc về các biện pháp về bảo đảm an toàn thông tin, thiết lập các biện pháp bảo mật của nhà cung cấp đưa ra.

Thông minh là luôn trang bị những kiến thức cơ bản cho chính phụ huynh cũng như cho con em chúng ta khi tham gia trên môi trường mạng.

Thận trọng là hãy luôn thận trọng với bất kỳ thông tin nào trên không gian mạng.

Tử tế nghĩa là cư xử một cách văn minh, tuân thủ nguyên tắc ứng xử trên không gian mạng.

Cục An toàn thông tin khuyến cáo người dùng cần cảnh giác khi sử dụng những ứng dụng tương tự như Zalo AI, với những ứng dụng không rõ nguồn gốc, không rõ nhà phát triển, không được công bố công khai... đều ẩn chứa những nguy cơ mất an toàn thông tin.

Ông Lương kể ra một số rủi ro có thể ảnh hưởng tiêu cực đến trẻ em như:

Nguy cơ trẻ em tiếp cận thông tin không phù hợp, ví dụ như công cụ Chat GPT thường thu thập thông tin trên không gian mạng và sử dụng các thuật toán để trả lời mà không phân biệt xem người hỏi là người lớn hay trẻ em và không chọn lọc nội dung, vì vậy, rất dễ trẻ em sẽ tiếp cận những nội dung không phù hợp với lứa tuổi hoặc các hành vi bạo lực.

Rủi ro tiếp theo là rò rỉ thông tin cá nhân qua các ứng dụng AI, khi các em nhỏ bị thu hút bởi các ứng dụng chỉnh sửa ảnh hoặc gắn gương mặt vào các biểu tượng dễ thương, việc này có thể khiến hình ảnh của các em bị các đối tượng lợi dụng gắn vào các hình ảnh khiêu dâm (đã từng xảy ra một số vụ việc trên thế giới).

Trên không gian mạng, các em nhỏ rất dễ bị lôi kéo vào các thử thách cũng như nguy cơ nguy hiểm.

Các thuật toán AI có thể mang đến rủi ro cho các em nhỏ khi có thể tác động đến tâm sinh lý, hành vi của các em.

Khi cho trẻ em sử dụng những công cụ, ứng dụng trên không gian mạng, phụ huynh nên hướng con em mình sử dụng những ứng dụng đã được các nhà cung cấp chọn lọc, bảo mật và phát triển dành riêng cho trẻ em

Sự nguy hiểm của deep fake

Nếu như ở phiên bản đầu tiên, chúng ta có thể nhận biết được qua ngữ điệu, cử động môi, hình ảnh, sự trùng khớp giữa con người, tiếng nói và video chưa thật. Hiện nay, các công cụ deep fake đã làm giả các hình ảnh, video giống đến 70-80%, khiến cho người dùng rất khó phân biệt bằng mắt thường, rất dễ bị nhầm lẫn. Người dùng luôn luôn phải cảnh giác, kiểm chứng và kiểm tra lại các thông tin, ông Lương khuyến cáo.

Bên cạnh đó, một số hãng công nghệ lớn cũng đã phát triển các công cụ cho phép người dùng kiểm chứng những video có sử dụng deep fake như: Intel fakecatcher, Microsoft Video Authenticator.

Tiktok đã chuyển biến bớt “độc hại” hơn

Ông Lê Quang Tự Do, Cục trưởng Cục Phát thanh, Truyền hình và Thông tin điện tử. Ảnh: Hoàng Nam

Theo ông Lê Quang Tự Do, Cục trưởng Cục Phát thanh, Truyền hình và Thông tin điện tử, Bộ TTTT, sau khi công bố kết luận kiểm tra, Bộ TTTT đã làm việc lại với Tiktok Singapore và Tiktok Việt Nam. Qua đó, Tiktok Singapore đã gửi văn bản cam kết thực hiện tất cả các yêu cầu của Bộ TTTT về quản lý nội dung, nhất là các nội dung về trẻ em. Tuy nhiên, Bộ TTTT đã tiếp tục yêu cầu Tiktok Singapore cần có phụ lục chi tiết hơn, cụ thể hơn về cách thức thực hiện gắn với thời gian, tiến độ thực hiện.

Những tháng gần đây, qua các công cụ giám sát của Bộ TTTT, Cục Phát thanh, Truyền hình và Thông tin điện tử, ông Lê Quang Tự Do cho rằng nền tảng Tiktok đã có những chuyển biến rất tích cực trong việc tổ chức nội dung, cụ thể là các nội dung “độc hại” đã giảm rất nhiều, khi Bộ TTTT gửi yêu cầu đã hợp tác và xóa rất nhanh và tập trung vào việc ngăn chặn các tài khoản chứ không chỉ còn là chặn các clip đơn lẻ. Trong 3 tháng trở lại đây, mỗi tháng, Tiktok đã chặn khoảng 40-50 tài khoản Tiktok đăng tải các nội dung “độc hại”.