Có hơn 330 triệu người dùng Twitter sử dụng nền tảng truyền thông xã hội này để đăng tải hàng trăm triệu dòng tweet mỗi ngày.1
Mọi người trên khắp thế giới yêu thích dịch vụ này vì sự dễ dàng mà nó mang lại để giữ liên lạc với bạn bè, những người nổi tiếng yêu thích của họ và cập nhật tin tức mới.
Thật không may, do số lượng lớn người sử dụng dịch vụ và bản chất ẩn danh của nó, đôi khi tin tức được đưa ra 24/7 là giả mạo. Và thỉnh thoảng, những người sử dụng dịch vụ khác có thể không thật sự quan tâm tới bạn.
Một trong những cách mà gã khổng lồ truyền thông xã hội sử dụng trí tuệ nhân tạo (AI) là cố gắng vượt lên trên thách thức to lớn trong việc giữ an toàn cho người dùng khỏi những người sử dụng nó để truyền bá thông tin có hại.
Trí tuệ nhân tạo đã giúp giải quyết những vấn đề gì?
Thời đại của truyền thông xã hội đã cho mọi người có được tiếng nói của mình. Và như mọi khi, một số người chọn sử dụng chúng để truyền bá những lời dối trá và thông tin sai lệch.
Cho dù đó là vì lý do chính trị hay tham lam, từ khi phương tiện truyền thông xã hội ra đời, nó đã trở thành một thỏi nam châm thu hút tất cả các loại kẻ lừa đảo và tuyên truyền, cho đến và bao gồm các cáo buộc về can thiệp bầu cử cấp nhà nước.2
Trong khi các lời dèm pha nhắm mục tiêu bầu cử nước ngoài có thể đã trở thành tiêu đề trong năm nay, lừa đảo cá nhân nhiều hơn cũng tràn lan và thường diễn ra lén lút. Một cuộc điều tra của Gizmodo cho thấy những kẻ lừa đảo thường xuyên ăn cắp ảnh của các bên thứ ba vô tội để tạo tài khoản giả.3
Một phần là do sự dễ dàng vốn có mà bất cứ ai cũng có thể thể hiện mình như bất cứ điều gì. Chỉ cần chọn một tên và hình đại diện và bạn có một tài khoản ẩn danh an toàn từ đó bạn có thể truyền bá bất cứ điều gì từ các trò lừa đảo Ponzi đến các thuyết âm mưu và tuyên truyền khủng bố. Một nghiên cứu đang diễn ra của Knight Foundation đã minh họa vấn đề này vì nó xác định hàng triệu dòng tweet tin giả được lan truyền trên Twitter.4 Cũng giống như hầu hết các mạng xã hội, Twitter rất muốn giải quyết vấn đề này.
Trí tuệ nhân tạo được sử dụng như thế nào trong thực tế?
Kể từ khi có sự gia tăng về nhận thức của cộng đồng đối với sự nghiêm trọng của tin giả, Twitter đã bắt đầu có lập trường chủ động hơn đối với việc xác định và xóa tài khoản vi phạm khỏi dịch vụ của mình.
Một phần trong chiến lược của nó là phát triển các công cụ học máy có thể xác định mạng lưới các tài khoản spambot mà những kẻ buôn chuyện và những kẻ lừa đảo sử dụng để tạo ảo tưởng rằng tiếng nói của họ có tính hợp pháp.5
Điều này cho phép nó xác định và đóng gần 10 triệu tài khoản mỗi tuần mà không phải đợi đến khi những tài khoản này bị báo cáo bởi người dùng.
Nó hoạt động bằng cách xác định các kiểu mẫu trong hành vi của tài khoản – ví dụ, liên kết đến các trang tin giả đã biết – và khớp chúng với các mẫu được hiển thị bởi các tài khoản giả hoặc tài khoản bot đã được xác định trước đây.
Khi một tài khoản đã được đánh dấu là có khả năng sai phạm, nó được đưa về trạng thái chỉ có thể đọc, do đó chủ tài khoản đó không thể tiếp tục đăng bài.
Sau đó, Twitter yêu cầu chủ sở hữu tài khoản xác minh mình là người thật – với số điện thoại hoặc địa chỉ email hợp pháp.
Bởi vì tin giả, âm mưu và mạng lưới lừa đảo hoạt động bằng cách sử dụng hàng trăm hoặc hàng ngàn tài khoản giả để khuếch đại thông điệp của họ, việc kiểm soát hết các tài khoản này là bất khả thi đối với một người/nhà điều hành mạng thông thường.
Những công nghệ, công cụ và dữ liệu nào được sử dụng?
Twitter đã nói rằng họ không muốn thảo luận công khai các dấu hiệu mà nó sử dụng để phát hiện nếu một tài khoản là giả mạo để cản trở những người cố gắng phát triển cách giải quyết.6
Tuy nhiên, rất có thể Twitter tìm kiếm các tài khoản hiển thị các mô hình hoạt động có tương quan với các tài khoản giả được xác định trong quá khứ.
Điều này có thể bao gồm tần suất đăng bài, hành vi kết nối mạng (người mà tài khoản theo dõi và hủy theo dõi), số lượng lớn tài khoản dường như bắt nguồn từ một số địa chỉ IP hạn chế và việc sử dụng công nghệ như VPN để che khuất danh tính và vị trí địa lý.
Khi các tài khoản theo các mẫu cụ thể xung quanh các hoạt động đó dường như cũng liên tục chia sẻ nội dung từ các trang web được xác định là không đáng tin cậy hoặc không trung thực, có xác suất cao hơn rằng chúng có thể là tài khoản giả.
Sự tham gia của Twitter vào công nghệ AI chắc chắn không giới hạn trong việc xử lý các tài khoản giả mạo. Nền tảng này cũng sử dụng học sâu để quyết định các tweet đặc biệt thú vị như thế nào đối với người dùng cá nhân và sự nổi bật mà họ sẽ nhận được trên dòng thời gian của họ.7
Nó thực hiện điều này bằng cách phân tích từng dòng tweet riêng lẻ từ các tài khoản mà người dùng theo dõi và đánh giá nó dựa trên mức độ phổ biến của nó, những tương tác trước đó của người dùng với tác giả và mức độ phù hợp với các tính năng của các tweet khác mà bạn đã tương tác trong quá khứ.
Nhiều sáng kiến của Twitter được phụ trách bởi Cortex, nhóm AI chuyên gia nội bộ của mình.
Kết quả đạt được là gì?
Trong hai tháng, Twitter đã sử dụng các công cụ phát hiện tự động để hạ gục hơn 70 triệu tải khoản “giả mạo và nghi vấn.”8
Hàng năm, có thêm 214% tài khoản đã bị xóa vì vi phạm chính sách spam. Đồng thời, các báo cáo từ người dùng rằng họ đã gặp phải thư rác giảm từ 25.000 mỗi ngày vào tháng 3 năm 2018 xuống còn 17.000 mỗi ngày vào tháng 5 năm 2018. Twitter chỉ ra điều này là bằng chứng cho thấy chính sách chủ động của nó đang xóa spam và tài khoản giả ra khỏi nền tảng trước khi người dùng thậm chí nhìn thấy chúng.9
Cũng như lợi ích xã hội, sáng kiến của Twitter để loại bỏ người dùng giả ra khỏi hệ thống của mình nhằm phục vụ mục đích kinh doanh. Các nhà quảng cáo muốn biết quảng cáo họ trả tiền để hiển thị trên Twitter đang được nhìn thấy bởi những người thực sự chứ không phải các con bot.
Những thách thức và bài học chính được rút ra
- Kẻ lừa đảo và những kẻ có mục đích xấu có thể được xác định thông qua hành vi trực tuyến của chúng bằng cách sử dụng AI, dùng các kỹ thuật rất giống với các kỹ thuật được các những người làm marketing sử dụng để quyết định nhắm mục tiêu quảng cáo đến ai.
- Đôi khi sự ẩn danh là quan trọng. Bởi vì Twitter hiểu rằng thỉnh thoảng yêu cầu tài khoản tự nhận mình có thể hạn chế tự do ngôn luận theo những cách có thể gây nguy hiểm, nó điều hành một hội đồng tin cậy và an toàn.10
- Twitter nhận ra rằng quyền tự do ngôn luận mà nền tảng của nó mang lại là rất quan trọng, nhưng đặt niềm tin rằng sự an toàn của người dùng là điều quan trọng hàng đầu trong chương trình nghị sự của mình.
Tham khảo
1. Twitter, How policy changes work: https://blog.twitter.com/official/en_us/topics/company/2017/HowPolicyChangesWork.html
2. Financial Times, Senate panel backs finding of Russian meddling in US election: https://www.ft.com/content/04385510-7f13-11e8-8e67-1e1a0846c475
3. Gizmodo, The Bizarre Scheme Using Viral Abuse Stories and Stolen Pics to Sell Diet Pills on Twitter: https://gizmodo.com/the-bizarre-schemeusing-viral-abuse-stories-and-stolen-1829173964
4. Knight Foundation, Disinformation, “Fake News” and Influence Campaigns on Twitter: https://www.knightfoundation.org/reports/disinformation-fake-news-and-influence-campaigns-on-twitter
5. Twitter, How Twitter is Fighting Spam and Malicious Automation: https://blog.twitter.com/official/en_us/topics/company/2018/how-twitter-is-fighting-spam-and-malicious-automation.html
6. Twitter, Our approach to bots and misinformation: https://blog.twitter.com/official/en_us/topics/company/2017/Our-Approach-Bots-Misinformation.html
7. Twitter, Using Deep Learning at Scale in Twitter’s Timelines: https://blog.twitter.com/engineering/en_us/topics/insights/2017/using-deep-learning-at-scale-in-twitters-timelines.html
8. Washington Post, Twitter is sweeping out fake accounts like never before, putting user growth at risk: https://www.washingtonpost.com/technology/2018/07/06/twitter-is-sweeping-out-fake-accounts-like-never-before-putting-user-growth-risk
9. Twitter, How Twitter is fighting spam and malicious automation: https://blog.twitter.com/official/en_us/topics/company/2018/how-twitter-is-fighting-spam-and-malicious-automation.html
10. Twitter, Announcing the Twitter Trust & Safety Council: https://blog.twitter.com/official/en_us/a/2016/announcing-the-twitter-trust-safety-council.html
