Dùng chatbot AI an toàn bảo mật: Không chia sẻ quá nhiều về thông tin trạng thái tinh thần

Elie Berreby, người đứng đầu bộ phận SEO và AI Search tại Adorama, cho rằng chatbot có thể là những trợ lý hữu ích nhưng không nên được xem như một người bạn để thoải mái chia sẻ mọi chuyện.

Theo ông, người dùng cần biết cách giữ kín những thông tin riêng tư, đặc biệt là các vấn đề liên quan đến trạng thái tinh thần, nỗi sợ hãi hoặc sức khỏe.

Những dữ liệu này có thể giúp hệ thống nhận diện các xu hướng, thói quen và dấu hiệu tiềm ẩn trong hành vi, từ đó xây dựng một hồ sơ khá chi tiết về những điểm yếu và mức độ dễ tổn thương của mỗi người.

Berreby cảnh báo rằng không nên chia sẻ quá nhiều thông tin với chatbot bởi lượng dữ liệu mà các hệ thống này có thể biết về một người đôi khi lớn hơn nhiều so với những gì người dùng tưởng tượng.

Một yếu tố khác cũng cần được lưu ý là mục tiêu thương mại của các chatbot AI. Đằng sau những trải nghiệm ngày càng được cá nhân hóa là một hệ sinh thái hướng tới việc tạo ra doanh thu từ dữ liệu và hành vi của người dùng.

Theo Berreby, trong tương lai, mức độ cá nhân hóa này có thể được tận dụng để phân phối những quảng cáo nhắm mục tiêu chính xác hơn. Dữ liệu cá nhân vì thế trở thành nguồn tài nguyên có giá trị đối với các nhà quảng cáo, đồng thời có thể góp phần hình thành một hồ sơ theo dõi chi tiết về mỗi cá nhân, sâu sắc hơn nhiều so với những gì từng tồn tại trước đây.