Mới chỉ xuất hiện từ khoảng năm 2010 nhưng đã có một thế hệ người dùng Instagram khó có thể tưởng tượng ra cuộc sống như thế nào nếu không có ứng dụng này.
Mạng xã hội thuộc sở hữu của Facebook này tập trung chia sẻ hình ảnh và video, tính đến tháng Sáu năm 2018 có khoảng 1 tỷ người dùng hoạt động,1 đăng tải 95 triệu hình ảnh mỗi ngày.2
Nhận thấy vấn nạn bắt nạt, quấy rối và lạm dụng thường xuyên xảy ra trên mạng một cách đáng tiếc, Instagram đã tuyên bố sẽ triển khai trí tuệ nhân tạo (AI) nhằm ngăn chặn hành vi xấu trước khi điều này ảnh hưởng đến cuộc sống của mọi người.
Trí tuệ nhân tạo đang giải quyết những vấn đề gì?
Đằng sau những hình ảnh selfie tuyệt đẹp của kỳ nghỉ đầy nắng và khung cảnh tuyệt với là một góc khuất tối màu trong vấn đề chia sẻ hình ảnh xã hội.
Cuộc khảo sát về nạn bắt nạt hàng năm của Dicth The Label, tổ chức từ thiện của Anh, cho thấy rằng 42% thanh thiếu niên đã trải qua việc bị bắt nạt trực tuyến trên Instagram3 – con số cao nhất cho trong tất cả các nền tảng xã hội.
Trong báo cáo Tác động của Bắt nạt trực tuyến đến Sức khỏe Tinh thần Thanh thiếu niên (Cyberbullying’s Impact on Young People’s Mental Health) vào đầu năm 2018, tổ chức bảo vệ trẻ em Children’s Society chỉ ra “những biện pháp của các công ty truyền thông xã hội đang thực hiện nhằm đối phó với vấn đề bắt nạt trực tuyến là không đủ và không nhất quán.”4
Cũng như việc bắt nạt trong thực tế, bắt nạt trực tuyến có thể có tác động sâu sắc và lâu dài đến cuộc sống của nạn nhân, trong trường hợp xấu nhất sẽ dẫn đến các vấn đề về sức khỏe tâm thần và tự tử.
Vì có trách nhiệm giữ an toàn cho người dùng tránh bị bắt nạt và quấy rối, các công ty truyền thông xã hội lâm vào tình thế khó xử giữa việc hạn chế quyền tự do ngôn luận và kiểm soát nội dung người dùng.
Trí tuệ nhân tạo được ứng dụng như thế nào?
Instagram tung ra những thuật toán thông minh nhân tạo sàng lọc tất cả các bình luận được đăng tải lên mạng.5
Bộ lọc được kích hoạt mặc định cho tất cả các tài khoản, nhưng có thể bị vô hiệu hóa nếu người dùng thực sự cảm thấy họ cần một trải nghiệm không bị kiểm duyệt.
Văn bản hay ngôn từ trong video được bộ lọc phân tích cú pháp, và nếu được xác định là một bình luận quấy rối – ví dụ như lăng mạ về vẻ bề ngoài, chủng tộc hay giới tính của ai đó – sẽ được tự động lọc.
Khi những tài khoản cụ thể bị đánh dấu là thường xuyên bị lọc, chức năng đánh giá thủ công sẽ được kích hoạt tới nhân viên của mạng lưới, những người này sẽ xác định liệu người dùng tài khoản có đang vi phạm điều khoản dịch vụ hay không. Điều này có thể dẫn đến việc họ bị cấm sử dụng nền tảng.
Công nghệ, công cụ và dữ liệu nào được sử dụng?
Bộ lọc chống bắt nạt của Instagram sử dụng công nghệ xử lý ngôn ngữ tự nhiên được phát triển bởi Facebook có tên là DeepText.
Nó hoạt động bằng cách kiểm tra văn bản tạo ra các bình luận của người dùng và tính toán nếu chúng hiển thị trùng khớp với những mẫu thông tin được gắn nhãn là lạm dụng.
DeepText sử dụng công nghệ học sâu có liên quan đến các mạng nơ-ron nhân tạo để phân loại văn bản tải lên, cũng như ngữ cảnh của văn bản. Do hệ thống học sâu cải thiện độ chính xác khi được huấn luyện, nó ngày càng có khả năng phân biệt, ví dụ như những lời lăng mạ giữa bạn bè lúc trêu đùa và ngôn ngữ ám chỉ về chiến dịch nhằm mục đích quấy rối trực tuyến.6
Tương tự như các hệ thống học sâu dựa trên ngôn ngữ tự nhiên, nó có thể học và thích nghi với cách con người giao tiếp bằng văn bản để ngày càng hiểu tiếng lóng, cách thức nói chuyện, biến thể ngôn ngữ vùng miền và biến thể cụm từ.
Facebook nói rằng DeepText đang khám phá ra những lớp nghĩa bổ sung gắn với mỗi từ trong khi phân tích.
Cùng với việc gắn nhãn nhận dạng cho mỗi từ, và sử dụng để theo dõi tần suất và ngữ cảnh của một đoạn văn bản, DeepText gắn cho mỗi từ một vị trí trong mạng lưới các kết nối ngữ nghĩa.
Điều này cho phép AI tìm hiểu về các mối quan hệ phổ biến giữa các từ, và các tình huống mà các từ khác nhau được sử dụng để có nghĩa giống nhau.
Thủ thuật này có thể sử dụng nhanh đến mức hệ thống có hiệu quả cùng lúc với thời gian thực tế. Nghĩa là nó phân tích, hiểu và đưa ra quyết định về 1.000 lượt tải lên của Instagram mỗi giây.
Kết quả thu được là gì?
Sáng kiến về việc chống bắt nạt của Instagram còn rất mới và công ty chưa công bố bất kỳ kết quả nào.
Tuy nhiên, hy vọng rằng bằng cách loại bỏ các bình luận xúc phạm, khó chịu hoặc gây tổn thương trước khi chúng được nhìn thấy, người dùng sẽ có một trải nghiệm tích cực và toàn diện hơn trên nền tảng này.
Thách thức chính và bài học rút ra:
- Bắt nạt là một vấn đề luôn tồn tại trong xã hội, nhưng Internet và phương tiện truyền thông xã hội khiến cho các vấn đề trở nên trầm trọng hơn vì nạn nhân có thể trở thành mục tiêu công khai và ẩn danh.
- Nếu không có AI sẽ không thể sàng lọc mọi bài đăng tải trên Instagram theo kịp thời gian thực. Điều này nghĩa là DeepText sẽ không thể kích hoạt hệ thống ngăn chặn chủ động.
- Ngoài ra sẽ ít rủi ro hơn trong việc vô tình xâm phạm ai đó chỉ đơn giản là thực hiện tự do ngôn luận hay quyền phản đối hoặc không đồng ý. Hệ thống phân tích văn bản và xử lý ngôn ngữ tự nhiên hiện nay rất phát triển để có thể đưa ra quyết định đúng đắn đáng tin cậy.
Tham khảo
- Statista, Number of monthly active Instagram users from January2013 to June 2018 (in millions): https://www.statista.com/statistics/253577/number-of-monthly-active-instagram-users/
- Sprout Social, 18 Instagram Stats Every Marketer Should Know for 2018: https://sproutsocial.com/insights/instagram-stats/
- Ditch The Label, Anti-Bullying Survey 2017: https://www.ditchthelabel.org/wp-content/uploads/2017/07/The-Annual-Bullying-Survey-2017-1.pdf
- The Children’s Society, Cyberbullying’s Impact on Young People’s Men-tal Health: https://www.childrenssociety.org.uk/sites/default/files/socialmedia-cyberbullying-inquiry-summary-report.pdf
- Instagram, Protecting Our Community from Bullying Comments: https://instagram-press.com/blog/2018/05/01/protecting-our-community-from-bullying-comments-2/
- Facebook, Introducing DeepText: Facebook’s text understanding engine: https://code.fb.com/core-data/introducing-deeptext-facebook-s-text-understanding-engine/
