Doanh nghiệp cần cẩn trọng tích hợp các công cụ AI vào quy trình kinh doanh khi hacker dễ dàng qua mặt chatbot AI và hướng dẫn chúng thực hiện các tác vụ độc hại.
Cơ quan An ninh mạng Vương quốc Anh cảnh báo các tổ chức đang tích hợp chatbot trí tuệ nhân tạo (AI) v&a
grave;o sản phẩm v&a
grave; dịch vụ, nghiên cứu cho thấy các công cụ AI dễ d&a
grave;ng bị dẫn dắt thực hiện những tác vụ độc hại.
Trong b&a
grave;i đăng trên blog ng&a
grave;y 30/8, Trung tâm An ninh mạng Vương quốc Anh (NCSC) cho hay, các chuyên gia vẫn chưa thể nắm bắt được các vấn đề an ninh mạng tiềm ẩn gắn với những thuật toán có thể tương tác “giống con người”, tức các mô h&i
grave;nh ngôn ngữ lớn (LLM).
NCSC cho biết điều n&a
grave;y mang theo những rủi ro, khi các mô h&i
grave;nh như vậy được đưa v&a
grave;o quy tr&i
grave;nh kinh doanh của doanh nghiệp. Giới học giả v&a
grave; nghiên cứu gần đây liên tục t&i
grave;m ra cách “đánh lừa” AI, hướng dẫn chatbot thực hiện lừa đảo hay phá vỡ các r&a
grave;o chắn bảo vệ được tích hợp.
Công cụ tích hợp AI tạo sinh đang được sử dụng như chatbot, được c
ho s?? thay thế không chỉ các hoạt động t&i
grave;m kiếm trên Internet m&a
grave; c&o
grave;n công việc liên quan dịch vụ khách h&a
grave;ng hay cuộc gọi bán h&a
grave;ng.
Chẳng hạn, một chatbot AI sử dụng tại một ngân h&a
grave;ng có thể bị lừa tiến h&a
grave;nh giao dịch trái phép nếu tin tặc đưa ra “chỉ dẫn” đúng.
“Các tổ chức xây dựng dịch vụ xung quanh LLMs cần cẩn trọng trên tinh thần họ đang sử dụng một sản phẩm mới ở giai đoạn thử nghiệm (beta)”, trích thông báo của NCSC, đề cập đến nhữ
ng AI phát h&a
grave;nh thử nghiệm gần đây.
Cuộc thăm d&o
grave; mới nhất của Reuters/Ipsos cho thấy nhiề
u nhân viên công ty đang sử dụng công cụ như ChatGPT để thực hiện các tác vụ cơ bản như dự thảo mail, tóm tắt t&a
grave;i liệu v&a
grave; thu thập dữ liệu nghiên cứu ban đầu.
Trong đó chỉ 10% nhân viên nói rằng cấp trên của họ cấm sử dụng công cụ AI bên ngo&a
grave;i một cách rõ r&a
grave;ng v&a
grave; 25% không biết liệu công ty có cho phép sử dụng công nghệ n&a
grave;y hay không.
Oseloka Obiora, giám đốc công nghệ tại hãng bảo mật RiverSafe nhận định, cuộc đua tích hợp AI v&a
grave;o mô h&i
grave;nh kinh doanh sẽ tạo ra những “hậu quả thảm khốc” khi lãnh đạo doanh nghiệp không tiến h&a
grave;nh những bước kiểm tra cần thiết. “Thay v&i
grave; đu theo xu hướng AI, các giám đốc cấp cao nên suy nghĩ kỹ v&a
grave; tiến h&a
grave;nh đánh giá lợi ích/rủi ro, cũng như các biện pháp bảo mật cần thiết để bảo vệ doanh nghiệp”.
Tin giả v&a
grave; tin tặc
Trên to&a
grave;n thế giới, chính phủ các nước cũng đang t&i
grave;m cách quản lý sự trỗi dậy của các LLM như ChatGPT của OpenAI. Lo ngại về tính bảo mật của công nghệ mới cũng l&a
grave; trọng tâm chính sách khi Mỹ v&a
grave; Canada gần đây nói rằng họ đã phát hiện tin tặc tăng cường lợi dụ
ng AI tạo sinh.
Một hacker thậm chí nói rằng anh ta phát hiện một LLM đã được “huấn luyện” bằng các t&a
grave;i liệu độc hại v&a
grave; thử yêu cầu nó xây dựng kế hoạch lừa đảo chuyển tiền. Đáp lại, AI tạo ra bức thư điện tử d&a
grave;i ba đoạn, yêu cầu người nhận thanh toán hoá đơn khẩn cấp.
Tháng 7/2023, Trung tâm An ninh mạng Canada ghi nhận việc gia tăng sử dụ
ng AI trong “lừa đảo qua email, nhúng mã độc, thông tin sai lệch v&a
grave; xuyên tạc”. Sami Khoury, giám đốc trung tâm không cung cấp bằng chứng chi tiết, song khẳng định giới tội phạm mạng đang tích cực lợi dụng công nghệ mới nổi n&a
grave;y.
Lãnh đạo n&a
grave;y cũng cho biết, mặc d&u
grave; việc sử dụ
ng AI soạn thảo mã độc mới ở giai đoạn đầu, song mô h&i
grave;nh AI đang phát triển quá nhanh dễ dẫn đến mức không thể kiểm soát những rủi ro độc hại của chúng.
Trước đó, tháng 3/2023, tổ chức Cảnh sát châu Âu Europol công bố báo cáo nói rằng ChatGPT có thể “mạo danh tổ chức, cá nhân theo cách rất thực tế ngay cả khi chỉ sử dụng tiếng Anh một cách cơ bản”. C&u
grave;ng thá
;ng, Trung tâm An ninh mạng quốc gia Anh nói rằng “LLM có thể được sử dụng để hỗ trợ các cuộc tấn công mạng”.
(Theo Reuters)
Bốn mô h&i
grave;nh AI h&a
grave;ng đầu tranh t&a
grave;i ‘bịa chuyện’
Nghiên cứu mới nhất cho thấy các mô h&i
grave;nh AI h&a
grave;ng đầu của Meta, OpenAI, Cohere v&a
grave; Anthropic đều tạo ra thông tin sai lệch.
Mỹ treo thưởng 20 triệu USD cho sáng kiến sử dụ
ng AI ph&o
grave;ng thủ tấn công mạng
Mỹ phát động cuộc thi sử dụ
ng AI bảo vệ cơ sở hạ tầng trọng yếu trước tấn công mạng với tổng giải thưởng trị giá 20 triệu USD.
Chat GPT như hiệu lệnh xuất phát cho cuộc đua AI
Trong tương lai, công nghệ trí tuệ nhân tạo sẽ tiếp tục được ứng dụng để thay đổi ho&a
grave;n to&a
grave;n cách vận h&a
grave;nh, quản trị doanh nghiệp v&a
grave; cách doanh nghiệp tương tác với khách h&a
grave;ng, đặc biệt với những doanh nghiệp có quy mô khách h&a
grave;ng lớn.
Nguồn bài viết : Thống kê giải đặc biệt
