Olayın ardından anne Ferah Nasir, sistemi hemen kapatarak durumu yetkililere bildirdi. “Ağzım açık kaldı. Aile arabasında çocuğuma böyle bir şeyin söylenmesi akıl alır gibi değil.” dedi.
Nasir, oğlunun Tesla Model 3 aracında yer alan Grok sohbet özelliğini merakla denediğini, başlangıçta futbol sohbetiyle başlayan konuşmanın bir anda uygunsuz bir yöne saptığını anlattı.
Grok’un Kişilik Seçeneği Tartışma Yarattı
Nasir, sistemde “Gork” adında mizahi bir kişilik seçeneği bulunduğunu, bunun “tembel erkek” olarak tanımlandığını ancak uygunsuz davranışlar sergilediğini söyledi. Aile, “çocuk modu” etkinleştirilmemiş olmasına rağmen bu tür içeriklerin varsayılan ayarlarda yer almasının büyük bir tehlike oluşturduğunu belirtti.
xAI ve Tesla Sessiz Kaldı
Tesla’nın yapay zeka sistemi Grok, Elon Musk’ın şirketi xAI tarafından geliştirilmişti. Ancak olayın ardından ne Tesla ne de xAI cephesinden resmi bir açıklama geldi.
Kanada Yapay Zeka Bakanlığı ise, Grok’un ülkedeki Tesla araçlarına entegre edilmesinden haberdar olmadıklarını ancak bu tür şikayetleri “çok ciddiye aldıklarını” açıkladı.
Yalnızca Ebeveyn İzniyle Kullanılabiliyor
xAI’nin politikalarına göre Grok, 13 yaş altı çocuklara yönelik bir sistem değil. Şirket, 13–17 yaş arası kullanıcıların da yalnızca ebeveyn izniyle platforma erişebileceğini belirtiyor.
Yaşanan olay, yapay zekaların çocuklarla etkileşimi konusunda yeni bir güvenlik tartışmasını yeniden gündeme getirdi.
