Sở Công Thương

https://sct.dongnai.gov.vn

Những mặt trái của ứng dụng trí tuệ nhân tạo và giải pháp khắc phục

Sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo (AI), đặc biệt là AI tạo sinh, đã mang lại nhiều tiện ích trong mọi lĩnh vực cuộc sống. Song việc này cũng dẫn đến các lỗ hổng và mối đe dọa do AI kích hoạt phức tạp hơn, dai dẳng hơn và có khả năng gây thiệt hại nhiều hơn.

Sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo (AI), đặc biệt là AI tạo sinh, đã mang lại nhiều tiện ích trong mọi lĩnh vực cuộc sống. Song việc này cũng dẫn đến các lỗ hổng và mối đe dọa do AI kích hoạt phức tạp hơn, dai dẳng hơn và có khả năng gây thiệt hại nhiều hơn.

AI đang được ứng dụng rộng rãi trong các hoạt động kinh doanh, giúp doanh nghiệp (DN) nâng cao hiệu quả hoạt động, tối ưu hóa quy trình và gia tăng lợi thế cạnh tranh trong kỷ nguyên số.


Tại Hội thảo "Công nghệ AI: Định hình phát triển DN trong kỷ nguyên số" diễn ra ngày 11/7 mới đây, các diễn giả đã chia sẻ những xu hướng mới nhất trong ứng dụng AI như AI trong tự động hóa quy trình, phân tích dữ liệu, chatbot, nhận diện giọng nói, v.v. Các ví dụ thực tế về ứng dụng AI thành công trong các ngành nghề khác nhau được trình bày, giúp DN tham khảo và định hướng ứng dụng AI phù hợp với đặc thù hoạt động của mình.


Trong tương lai, AI sẽ tiếp tục đóng vai trò quan trọng trong việc định hình và phát triển DN. Các DN cần nắm bắt cơ hội và áp dụng AI một cách hiệu quả để nâng cao hiệu quả hoạt động, cải thiện trải nghiệm khách hàng và tăng cường khả năng cạnh tranh. Đây là bước khởi đầu quan trọng để các DN hướng tới tương lai số hóa và phát triển bền vững.


Chia sẻ thêm về vấn đề này, ông Đỗ Danh Thanh - Phó Tổng Giám đốc phụ trách dịch vụ Chuyển đổi số và Chiến lược CNTT, Deloitte Việt Nam cho biết, việc ứng dụng AI và các công nghệ mới khác đã không còn xa lạ trên thế giới nói chung và tại Việt Nam nói riêng.

ddtÔng Đỗ Danh Thanh: các hệ thống AI có những lỗ hổng và điểm yếu cố hữu

Tuy nhiên, theo ông Thanh, việc ứng dụng AI mang lại nhiều lợi ích những cũng có thể gây ra những rủi ro và thách thức mới, ảnh hưởng đến danh tiếng, tầm nhìn cũng như tổn thất về tài chính/dữ liệu cho DN, đồng thời gây ảnh hưởng đến xã hội, an ninh và chính trị. Cụ thể, các rủi ro trong ứng dụng AI được phân loại thành lỗ hổng và mối đe dọa, mỗi loại có phương pháp cụ thể để xác định, quản lý và giám sát các rủi ro liên quan.


Hệ thống AI và những lỗ hổng


Ông Đỗ Danh Thanh cho biết các hệ thống AI có những lỗ hổng và điểm yếu cố hữu. Cụ thể, các hệ thống AI thường phức tạp, chúng dễ gặp phải nhiều vấn đề có thể hạn chế khả năng hoạt động của hệ thống một cách nhất quán và chính xác, giảm tin cậy hơn trong các tình huống động, thực tế. Những yếu tố này có thể vô tình được đưa vào trong quá trình đào tạo, chẳng hạn như thành kiến hoặc vận hành kém.


Theo đó, một trong những rủi ro nổi bật là độ an toàn và bảo mật. Vì vậy, các hệ thống AI phải được bảo vệ khỏi những rủi ro (bao gồm tấn công mạng) có thể gây hại cũng như không được sử dụng mô hình AI làm cửa sau hoặc để cung cấp thông tin có hại, không phù hợp, nguy hiểm...


Rủi ro thứ hai là tính tin cậy. Nếu không được đào tạo hoặc giám sát đúng cách, AI có thể không học hỏi nhất quán từ con người và các hệ thống khác, dẫn đến kết quả đầu ra không thể đoán trước hoặc không đáng tin cậy.​ Điều này đặc biệt quan trọng để đảm bảo hạn chế tối đa việc hệ thống AI gây ra những hậu quả tai hại khi áp dụng thực tế.


Rủi ro thứ ba thuộc phạm trù tính minh bạch, công bằng và trách nhiệm giải trình. Thực tế, các ứng dụng AI có thể học và phát triển theo thời gian với nhiều cơ chế ra quyết định có xu hướng khó kiểm soát. Do đó, nếu không có các biện pháp minh bạch, người tham gia có thể không biết hoặc có thông tin sai lệch về cách hệ thống AI sử dụng dữ liệu của họ và quy trình ra quyết định của các hệ thống này có thể vẫn không rõ ràng. Mặt khác, nếu không có hoạt động kiểm tra nội bộ và bên ngoài thích hợp, các ứng dụng AI có thể thể hiện sự thiên vị, dẫn đến kết quả không công bằng cho một số người tham gia nhất định.


Một rủi ro khác là kiểm toán, trong trường hợp không có chính sách, quy trình và biện pháp kiểm soát rõ ràng, có thể không rõ ai chịu trách nhiệm về hành động và kết quả của hệ thống AI.


Các mối đe doạ từ AI


Theo ông Đỗ Danh Thanh, những tiến bộ nhanh chóng của công nghệ AI, sự gia tăng tài nguyên tính toán có thể truy cập và sự sẵn có rộng rãi của các công cụ AI nguồn mở và công cộng đã hạ thấp rào cản gia nhập đối với các tác nhân xấu, dẫn đến các mối đe dọa do AI kích hoạt phức tạp hơn, dai dẳng hơn và có khả năng gây thiệt hại nhiều hơn.


Cụ thể, mối đe doạ đầu tiên là gian lận, tống tiền trong lĩnh vực tài chính. Các cuộc tấn công tài chính có thể được tạo điều kiện thuận lợi thông qua các hành vi giả mạo do AI phát triển hoặc được kích hoạt thông qua AI để tự động hóa và tối ưu hóa các hoạt động như giao dịch gian lận và triển khai các phần mềm gây hại.


Thứ hai là đánh cắp và thay đổi dữ liệu. Các cuộc tấn công hỗ trợ AI có thể xác định, ưu tiên và lọc dữ liệu riêng tư, phân loại hoặc cá nhân từ cơ sở dữ liệu an toàn, thường bỏ qua các biện pháp bảo mật truyền thống để đạt được mục tiêu đánh cắp dữ liệu.


Thứ ba là gây ảnh hưởng xã hội/chính trị (gián điệp, chiến tranh mạng). AI có thể được vũ khí hóa để gây rối loạn xã hội hoặc chính trị bằng cách tự động hóa việc truyền bá thông tin sai lệch, thao túng dư luận hoặc thậm chí thay đổi kết quả bầu cử.


Cuối cùng là gây thiệt hại danh tiếng, AI có thể được sử dụng để mạo danh quan chức, vô hiệu hóa hệ thống hoặc rò rỉ thông tin nhạy cảm, làm suy yếu lòng tin của công chúng, thiết hại danh tiếng.


Xác định, giảm thiểu và quản lý rủi ro AI từ chính sách đến quy trình


Việc ngăn ngừa các lỗ hổng và mối đe dọa từ AI đòi hỏi các biện pháp kiểm soát bảo mật được tích hợp chặt chẽ, kết hợp các chính sách, quy trình và công nghệ mạnh mẽ để chủ động chống lại các mối đe dọa mới nổi.


Mô hình Trustworthy AI™ của Deloitte là một cách tiếp cận hiệu quả để quản lý chất lượng và rủi ro liên quan tới AI, và có thể được tích hợp vào các quy định quản lý rủi ro DN hiện có. Đây là là bộ sản phẩm và dịch vụ nhằm hỗ trợ khách hàng xác định, giảm thiểu và quản lý rủi ro AI trong bối cảnh công nghệ và khung pháp lý đang phát triển liên tục.

 

ai 

Mô hình này dựa trên 6 trụ cột gồm: công bằng, minh bạch, trách nhiệm, tin cậy, quyền riêng và an toàn.


Theo Phó Tổng Giám đốc phụ trách dịch vụ Chuyển đổi số và Chiến lược CNTT, Deloitte Việt Nam, mô hình Trustworthy AI™ sẽ giúp quản trị độ tin cậy. Cụ thể, mô hình đánh giá việc quản trị, chính sách và quy trình AI của tổ chức, DN bằng cách xác định các lỗ hổng trong chính sách AI hiện có và phát triển lộ trình để giảm thiểu, quản lý và giám sát rủi ro AI.


Đồng thời đảm bảo tính sẵn sàng và chất lượng của dữ liệu thông qua việc đánh giá các bộ dữ liệu và quy trình được sử dụng trong quá trình đào tạo, điều chỉnh hoặc thử nghiệm các mô hình AI, bao gồm đánh giá sai lệch, rủi ro mất dữ liệu, quyền riêng tư dữ liệu và bảo vệ dữ liệu.


Trustworthy AI™ cũng đánh giá độc lập về các hệ thống và mô hìnhAI. Các mô hình được đánh giá về tính hợp lý về mặt khái niệm và tuân thủ quy định tổ chức và quy định quản lý rủi ro AI hiện có.


Bên cạnh đó còn triển khai các giải pháp công nghệ để tích hợp các nguyên tắc AI đáng tin cậy trong suốt vòng đời AI, bao gồm TAI Model Manager, TAI trong AWS, TAI trong Databricks, TAI trong Azure và các quan hệ đối tác khác./.

Tác giả: Ngọc Diệp

Nguồn tin: Tạp chí điện tử Thông tin và Truyền thông

Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây