Instagram riskli AI sohbetlerini ebeveynlere bildirecek

Meta, Instagram'da çocuk kullanıcıların yapay zeka ile gerçekleştirdiği ve risk taşıdığı değerlendirilen konuşmaların ebeveynlere bildirilmesini sağlayacak yeni bir güvenlik özelliğini hayata geçiriyor.

Şirketin açıkladığı yeni sistem kapsamında, ebeveyn denetimi araçlarının aktif olduğu Instagram hesaplarında, bir çocuğun Meta AI ile intihar ya da kendine zarar verme içerikli konuşmalar yapması halinde ebeveynlere otomatik bildirim gönderilecek. Uyarılar Instagram üzerinden veya kısa mesaj (SMS) yoluyla iletilecek.

Meta ayrıca, yapay zeka sohbetlerinde "yakın intihar riski" tespit edilen durumlarda ilk müdahale ekiplerini bilgilendirebilecek yeni teknolojiler üzerinde de çalışmalar yürüttüğünü duyurdu.

Independent'ın aktardığına göre söz konusu değişiklikler, Meta'nın intihar ve kendine zarar verme gibi hassas konularla ilgili yapay zeka yanıtlarını geliştirmeye yönelik kapsamlı güvenlik güncellemelerinin bir parçasını oluşturuyor.

UZMANLARLA GELİŞTİRİLEN SİSTEM

Meta, ebeveynlere gönderilecek bildirimlerin, uzmanlarla birlikte geliştirilen özel sinyaller doğrultusunda çalışacak yapay zeka sistemi tarafından belirleneceğini açıkladı.

Şirket açıklamasında şu ifadelere yer verildi:

"Bir gencin kendisine zarar vermeye yönelik açık bir ifade kullanması, bu ifade oldukça dolaylı olsa bile, hangi yapay zeka konuşmalarının ebeveyn uyarısını gerektirdiğini belirlemek için ebeveynler ve uzmanlarla birlikte çalıştık. Ardından bu konuşmaları tespit edebilecek özel bir yapay zeka sistemi geliştirdik."

İNSAN İNCELEMESİ DE YAPILACAK

Meta, riskli olarak işaretlenen tüm konuşmaların doğrudan ebeveynlere iletilmeyeceğini, bildirim gönderilmeden önce insan moderatörler tarafından inceleneceğini belirtti.

Şirket, bazı durumlarda gerçek bir risk bulunmasa bile ihtiyatlı davranarak ebeveynleri bilgilendirmeyi tercih edeceğini vurguladı.

Meta açıklamasında, "Bu yaklaşım zaman zaman gerçek bir risk bulunmasa bile ebeveynleri bilgilendirmemize neden olabilir. Ancak bunun doğru bir başlangıç noktası olduğuna inanıyoruz ve doğru dengeyi sağladığımızdan emin olmak için sistemi izlemeyi sürdüreceğiz." ifadelerine yer verildi.