Yapay zekânın öncülerinden, Nobel ödüllü bilim insanı Geoffrey Hinton, yapay zekâ destekli bir siber saldırının geniş çaplı elektrik kesintilerine yol açabileceğini veya finans sistemlerini bir hafta boyunca işlemez hale getirebileceğini söyledi.
The Guardian gazetesine konuşan Hinton, 2026’nın sonlarında ya da 2027’de yaşanabilecek büyük çaplı bir krizi, 1986’daki Çernobil nükleer kazasına benzetti. Böyle bir olayın hükümetleri ve teknoloji şirketlerini yapay zekânın risklerini daha ciddi değerlendirmeye zorlayabileceğini belirtti.
Elektrik şebekeleri, enerji altyapısı ve finans sistemlerinin hedef alınabileceğine dikkat çeken Hinton’ın anlattığı senaryolar, gerçekleşmiş olaylara değil, teknolojinin gelişimine ilişkin öngörülerine dayanıyor.
İNSANLIĞIN ÖNÜNDEKİ 10 YILA DİKKAT ÇEKTİ
İnsanlığın yapay zekâyı hiç geliştirmemiş olmasının daha iyi olabileceğini söyleyen Hinton, teknolojinin büyük faydalar sağlayabileceğini de kabul etti. Ona göre önümüzdeki 10 yıl, insanlığın yapay zekâdan kaynaklanan tehlikeleri yönetip yönetemeyeceğini ortaya koyacak.
Hinton, risklerin önlenememesi halinde kitlesel işsizlik, ekonomik eşitsizliklerin derinleşmesi ve toplumsal kutuplaşmanın artması gibi sonuçların ortaya çıkabileceğini belirtti. Teknolojinin doğru yönetilmesi durumunda ise insanlık için oldukça olumlu bir geleceğin mümkün olduğunu vurguladı.
TEKNOLOJİ ŞİRKETLERİNE GÜVENLİK ELEŞTİRİSİ
Başta OpenAI CEO’su Sam Altman olmak üzere sektörün önde gelen yöneticilerini eleştiren Hinton, şirketlerin rekabet ve ekonomik kazanç uğruna güvenlik risklerini ikinci plana attığını savundu.
Bilim insanı, teknoloji yöneticilerinin tehlikelerin farkında olduklarını ancak yeterli önlem almak için gerekli iradeyi göstermediklerini öne sürdü.
KULLANIMA SUNULMADAN ÖNCE BAĞIMSIZ TEST ÇAĞRISI
Hinton, yapay zekâ sistemlerinin ilaç sektöründekine benzer bağımsız güvenlik testlerinden geçirilmesi gerektiğini söyledi. Şirketlerin, geliştirdikleri modellerin topluma sağlayacağı yararların olası zararlarından daha fazla olduğunu bilimsel kanıtlarla ortaya koymasını istedi.
Hinton’a göre ürünler piyasaya sürülüp zarar ortaya çıktıktan sonra şirketlerin hukuki sorumlulukla karşılaşması yeterli değil; güvenlik değerlendirmelerinin teknolojiler kullanıma açılmadan önce yapılması gerekiyor.
ABD Başkanı Donald Trump yönetiminin yapay zekâ alanındaki uluslararası düzenlemelere mesafeli yaklaşımına karşın Hinton, ortak güvenlik standartları oluşturulmasının önemini vurguladı. Riskleri azaltmak için hâlâ fırsat bulunduğunu belirterek bunun hükümetlerin, araştırmacıların ve şirketlerin ortak çabasını gerektirdiğini ifade etti.
2024 Nobel Fizik Ödülü’nün sahiplerinden olan Hinton, 2023’te Google’daki görevinden ayrılmış ve yapay zekânın olası tehlikeleri hakkında daha açık konuşmaya başlamıştı.
