\n<\/p>\n
Siber g\u00fcvenlik uzmanlar\u0131, \u00fcretken yapay zek\u00e2da bir sonraki b\u00fcy\u00fck s\u0131\u00e7rama olarak g\u00f6r\u00fclen yapay zek\u00e2 ajanlar\u0131n\u0131n yak\u0131n zamanda bilgisayar korsanlar\u0131n\u0131n elinde tehlikeli bir araca d\u00f6n\u00fc\u015febilece\u011fi konusunda uyard\u0131.<\/p>\n
\u00a0<\/p>\n
AFP ajans\u0131n\u0131n haberine g\u00f6re s\u00f6z konusu yapay zek\u00e2 destekli ara\u00e7lar, u\u00e7ak bileti rezervasyonu yapmak veya takvime etkinlik eklemek gibi, geleneksel olarak insanlar\u0131n y\u00fcr\u00fctt\u00fc\u011f\u00fc dijital g\u00f6revleri yerine getirmek \u00fczere tasarland\u0131.<\/p>\n
\u00a0<\/p>\n
Fakat do\u011fal dilde verilen komutlar\u0131 do\u011frudan uygulayabilme yetenekleri, onlar\u0131 teknik bilgisi s\u0131n\u0131rl\u0131 ki\u015filer taraf\u0131ndan bile istismar edilebilecek kadar savunmas\u0131z b\u0131rak\u0131yor.<\/p>\n
\u00a0<\/p>\n
Yapay zek\u00e2 giri\u015fimi Perplexity, son blog g\u00f6nderisinde, \u201cArt\u0131k siber g\u00fcvenlik, y\u00fcksek teknik becerilere sahip k\u00f6t\u00fc niyetli ki\u015filere kar\u015f\u0131 kullan\u0131c\u0131lar\u0131 korumaktan ibaret de\u011fil. On y\u0131llard\u0131r ilk kez, her yerden gelebilecek yeni ve \u00f6zg\u00fcn sald\u0131r\u0131 bi\u00e7imleriyle kar\u015f\u0131 kar\u015f\u0131yay\u0131z\u201d diye yazd\u0131.<\/p>\n
\u00a0<\/p>\n
“ENJEKS\u0130YON SALDIRILARI” ARTIK DAHA DA TEHL\u0130KEL\u0130<\/strong><\/p>\n \u00a0<\/p>\n Tehdidin oda\u011f\u0131nda, bilgisayar korsanlar\u0131n\u0131n uzun s\u00fcredir bildi\u011fi ancak yapay zek\u00e2n\u0131n yeni yetenekleriyle \u00e7ok daha tehlikeli hale gelen \u201cenjeksiyon sald\u0131r\u0131lar\u0131\u201d bulunuyor.<\/p>\n Ge\u00e7mi\u015fte karma\u015f\u0131k kodlar gerektiren bu sald\u0131r\u0131lar, art\u0131k yapay zek\u00e2 sistemlerine verilen masum g\u00f6r\u00fcn\u00fcml\u00fc talimatlar\u0131n i\u00e7ine gizlenebiliyor.<\/p>\n B\u00fcy\u00fck dil modellerinin g\u00fcvenli\u011fine odaklanan NeuralTrust \u015firketinin yaz\u0131l\u0131m m\u00fchendisi Marti Jorda Roca, \u201c\u0130nsanlar\u0131n yapay zek\u00e2y\u0131 g\u00fcvenlik a\u00e7\u0131s\u0131ndan kullan\u0131rken belirli tehlikeleri anlamas\u0131 gerekiyor\u201d uyar\u0131s\u0131nda bulundu.<\/p>\n \u00a0<\/p>\n TEKNOLOJ\u0130 DEVLER\u0130 R\u0130SK\u0130 KABUL ED\u0130YOR<\/strong><\/p>\n \u00a0<\/p>\n Meta, ortaya \u00e7\u0131kan \u201csorgu enjeksiyonu\u201d tehdidini bir \u201cg\u00fcvenlik a\u00e7\u0131\u011f\u0131\u201d olarak nitelendirirken, OpenAI\u2019nin enformasyon g\u00fcvenli\u011fi direkt\u00f6r\u00fc Dane Stuckey bunu \u201chen\u00fcz \u00e7\u00f6z\u00fclememi\u015f bir g\u00fcvenlik sorunu\u201d olarak tan\u0131mlad\u0131.<\/p>\n \u00a0<\/p>\n Her iki \u015firket de bu risklerin fark\u0131nda olduklar\u0131n\u0131 kabul etmesine ra\u011fmen, yapay zek\u00e2 geli\u015ftirmeye b\u00fcy\u00fck yat\u0131r\u0131mlar yapmaya devam ediyor.<\/p>\n \u00a0<\/p>\n Baz\u0131 durumlarda sorgu enjeksiyonu sald\u0131r\u0131lar\u0131 ger\u00e7ek zamanl\u0131 olarak ger\u00e7ekle\u015febiliyor.<\/p>\n \u00a0<\/p>\n \u00d6rne\u011fin, bir kullan\u0131c\u0131n\u0131n \u201cbana bir otel rezervasyonu yap\u201d komutu, k\u00f6t\u00fc niyetli bir bi\u00e7imde \u201cbu hesaba 100 dolar g\u00f6nder\u201d talimat\u0131na d\u00f6n\u00fc\u015ft\u00fcr\u00fclebiliyor.<\/p>\n \u00a0<\/p>\n Di\u011fer tehditler ise daha gizli ilerliyor; zararl\u0131 komutlar, yapay zek\u00e2 ajanlar\u0131n\u0131n internet taramas\u0131 s\u0131ras\u0131nda kar\u015f\u0131la\u015fabilece\u011fi web sayfalar\u0131n\u0131n i\u00e7ine saklanabiliyor.<\/p>\n \u00a0<\/p>\n \u0130srail merkezli siber g\u00fcvenlik \u015firketi Check Point\u2019ten Eli Smadja, sorgu enjeksiyonunu \u201cChatGPT\u2019nin y\u00fckseli\u015finden sonra ortaya \u00e7\u0131kan b\u00fcy\u00fck dil modelleri ve yapay zek\u00e2 asistanlar\u0131n\u0131n kar\u015f\u0131 kar\u015f\u0131ya oldu\u011fu bir numaral\u0131 g\u00fcvenlik sorunu\u201d olarak niteledi.<\/p>\n \u00a0<\/p>\n Bu risklere kar\u015f\u0131 b\u00fcy\u00fck teknoloji \u015firketleri savunma sistemleri geli\u015ftirmeye ba\u015flad\u0131.<\/p>\n \u00a0<\/p>\n Microsoft, yapay zek\u00e2 talimatlar\u0131n\u0131n kayna\u011f\u0131na ve niteli\u011fine g\u00f6re zararl\u0131 komutlar\u0131 tespit eden ara\u00e7lar geli\u015ftirdi\u011fini duyurdu.<\/p>\n \u00a0<\/p>\n OpenAI ise art\u0131k ajanlar\u0131n hassas web sitelerine eri\u015fmeye \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131 fark etti\u011finde kullan\u0131c\u0131y\u0131 uyar\u0131yor ve ilerlemek i\u00e7in insan onay\u0131 istiyor.<\/p>\n \u00a0<\/p>\n Baz\u0131 g\u00fcvenlik uzmanlar\u0131 daha da ileri giderek, \u015firketlerin yapay zek\u00e2 ajanlar\u0131n\u0131n verileri d\u0131\u015fa aktarma ya da finansal i\u015flem gibi hassas operasyonlar\u0131 ger\u00e7ekle\u015ftirmeden \u00f6nce kullan\u0131c\u0131dan onay almas\u0131n\u0131 sa\u011flayacak sistemler tasarlamas\u0131 gerekti\u011fini s\u00f6yl\u00fcyor.<\/p>\n \u00a0<\/p>\n Smadja, \u201cS\u0131k\u00e7a g\u00f6rd\u00fc\u011f\u00fcm b\u00fcy\u00fck hatalardan biri de ayn\u0131 yapay zek\u00e2 ajan\u0131na her \u015feyi yapma yetkisi vermek\u201d diye konu\u015ftu.<\/p>\n \u00a0<\/p>\n “HER GE\u00c7EN G\u00dcN DAHA DA GEL\u0130\u015e\u0130YORLAR”<\/strong><\/p>\n \u00a0<\/p>\n \u00d6te yandan siber g\u00fcvenlik ara\u015ft\u0131rmac\u0131s\u0131 ve sekt\u00f6rde \u201cwunderwuzzi\u201d mahlas\u0131yla tan\u0131nan Johann Rehberger, bilgisayar korsanlar\u0131n\u0131n taktiklerinin h\u0131zla evrildi\u011fini vurgulayarak, \u201cHer ge\u00e7en g\u00fcn daha da geli\u015fiyorlar\u201d ifadesini kulland\u0131.<\/p>\n \u00a0<\/p>\n Rehberger, temel sorunun g\u00fcvenlikle kullan\u0131m kolayl\u0131\u011f\u0131 aras\u0131nda denge kurmak oldu\u011funu belirtti.<\/p>\n Pek \u00e7ok kullan\u0131c\u0131, yapay zek\u00e2 ara\u00e7lar\u0131n\u0131n s\u00fcrekli g\u00f6zetim olmadan kusursuz \u00e7al\u0131\u015fmas\u0131n\u0131 bekliyor; oysa bu kolayl\u0131k, riskleri de beraberinde getiriyor.<\/p>\n \u00a0<\/p>\n Rehberger, \u201cHen\u00fcz bir yapay zek\u00e2 ajan\u0131n\u0131n uzun s\u00fcre boyunca kendi ba\u015f\u0131na belirli bir g\u00f6revi g\u00fcvenli bi\u00e7imde yerine getirebilece\u011fi bir noktada de\u011filiz. Bir noktadan sonra rotas\u0131ndan sap\u0131yor\u201d uyar\u0131s\u0131nda bulundu.<\/p>\n \u00a0<\/p>\n<\/div>\n