Instagram basit anahtar kelime filtrelerinin de ötesine geçmek için yapay zekadan faydalanarak, saldırgan yorumları otomatik olarak engelliyor. Bu teknolojinin kullanımı aynı zamanda Facebook için de bir deneme niteliği taşıyor. Platform, kendi moderasyon ve filtreleme sistemini geliştirmeyi hedefliyor.

Filtreleme sistemi makine öğrenimi prensibiyle çalışıyor. Yani, yorumları filtrelemede kullanılan teknoloji öncesinde bir dizi deneme veriyle eğitiliyor ve yalnızca belirli anahtar kelimelere değil, bağlamlara ve ilişkilere de bakıyor. Böylece kullanıcı filtrenin kendi hesabında kullanılıp kullanılmayacağına karar verebiliyor.

Instragram Yönetim Kurulu Başkanı ve Kurucu Ortağı Kevin Systrom bir blog girdisinde yeni yorum filtresinin, “zararlı yorumların kullanıcıların Instagram’ın tadını çıkarmasını” ve ifade özgürlüğünü engellediği yönünde gelen geribildirimler üzerine sunulduğunu yazdı. Yeni yorum filtreleri gönderi ve canlı videolardaki saldırgan yorumları engelliyor. Ancak kullanılan yapay zeka yorumları engellerken yalnızca anahtar kelimelere odaklanmakla kalmayıp aynı zamanda bağlamı da dikkate alıyor.