BIST9.347,17%0,38
USD31.081%0.87
EURO33,6778%0.92
ALTIN2.023,39%0.32
Teknoloji

Yapay zekâ botları artık o sorulara da cevap veriyor

Singapur'un Nanyang Teknoloji Üniversitesindeki (NTU) araştırmacılar, "tersine mühendislik" yöntemiyle, yapay zeka sohbet robotlarının normalde yanıtlayamayacakları komutlara cevap vermelerini sağladı.

Abone OlGoogle News
08 Ocak 2024 17:10

Malay Mail sitesinin haberine göre NTU araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat gibi sohbet robotlarına ilişkin çalışma yaptı.

Araştırmacılar, sohbet robotlarının normalde cevaplamayacakları "kötü niyetli" komutları yanıtlamalarını sağlayan yöntem geliştirdi.

"Tersine mühendislik" yöntemini kullanan araştırmacılar, ilk olarak sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirledi. Ardından bu bilgiler kullanılarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.

Sohbet robotlarının potansiyel şüpheli faaliyetleri tespit etmek için belirli anahtar kelimeleri işaretledikleri ve bu sözcükleri içeren komutları cevaplamadıklarının saptanması üzerine, kullanılan her karakterden sonra boşluk bırakılarak bu durumun önüne geçildi.

Araştırmanın yazarlarından Liu Yang, bu tekniğin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.

Yazma kurallarını okudum ve kabul ediyorum.600 karakter kaldı
×

Bu sayfalarda yer alan okur yorumları kişilerin kendi görüşleridir.
Yazılan yorumlar hiçbir şekilde akittv.com.tr’nin görüş ve düşüncelerini yansıtmamaktadır.
Yazılanlardan akittv.com.tr sorumlu tutulamaz.

0 Yorumlar
  • Yeniden eskiye
  • Eskiden yeniye
  • Öne Çıkanlar