Yapay Zeka Asistanları Günlük Hayatı Hacklemeye Başladı
Avustralya’da Andrew Bird isimli bir kişi sürekli dolu olan pilates dersine rezervasyon yapabilmek için Openclaw üzerinde Claude ile çalışan bir yapay zeka asistanına görev veriyor. Önce asistanın beklediğinin çok ötesinde aylar öncesindeki seanslara rezervasyon yapabildiğini görüyor. Sonra peki bekleme listesinde sıramı öne alabilir misin diye sorduğunda asistanı, başka birinin rezervasyonunu iptal ederek Andrew’ı istediği derse kaydediyor.
Bu örnek bizce çok hızlı gelmekte olan bir geleceğin yalnızca önizlemesi. Yoğun bir dijitalleşme yaşadığımız son 10 yılda özellikle küçük işletmelerin dijital çözümlerle sistemlerini kurgularken hız ve maliyet gibi unsurlara öncelik verip güvenliği geri planda bırakmış olması oldukça olası. Gerçekten hackleyebilecek bilgi birikimine sahip kişi sayısının azlığı, kimsenin uğraşmayacak olması bu önceliklendirmenin gerekçeleriydi. Bu yüzden bu spor salonu koruma katmanını yalnızca önyüze koymuş, arka tarafta hiçbir yetkilendirme olmadan sunucu adreslerini keşfettiğiniz anda istediğiniz değişikliği yapabiliyorsunuz. Bu tip açıklıkları bulmak şu anki dil modelleri için çocuk oyuncağı, haliyle de bu asistanlar günlük hayatımıza girdikçe eksik kurgulanmış sistemlerdeki açıklar bir bir ortaya çıkacak.
OpenAI’dan Siber Güvenliğe Özel Model
OpenAI da bu haberin tam üstüne otonom yapay zeka asistanları tarafından siber saldırıların yapıldığı geleceğin büyük bir hızla yaklaştığını söyleyerek savunma mekanizmalarının artırılabilmesine yönelik özelleştirdiği GPT-5.6-Cyber modelini duyurdu. Model gerçek hayat testlerinde Chrome’un V8 motorunda daha önce bilinmeyen iki zafiyet bulmuş. Modele erişim ise kimlik doğrulama ve yasal taahhütlerle sağlanabiliyor.
Meta’nın Yeni Açık Kaynaklı Modeli Muse Glimmer
Meta kendi cihazınızda çalıştırdığınız yapay zeka otomasyonlarına özel geliştirdiği, 30 milyar parametreli yeni modeli Muse Glimmer’ı duyurdu. Meta’nın en gelişmiş modeli Spark’ın minik bir versiyonu olan Muse Glimmer, tek bir GPU üzerinde, ağ bağlantısı olmadan çalışabiliyor. Çinli modellere karşı en büyük rekabeti Meta’nın göstermesi, Amerikalı rakiplerinin aksine açık kaynaklı üretimden vazgeçmemesi takdir edilesi olsa da Meta’nın asıl amacı kendi donanımlarını destekleyen modeller geliştirip reklam ve donanım işinden para kazanmaya devam edebilmek.
Bu Haftanın İlhamı
Patreon’un CEO’su Jack Conte’nin SXSW’de yaptığı bu konuşma yapay zekanın yaratıcı sürece ve sanata etkisi konusunda kararsız hissediyorsanız düşüncelerinizi toparlamanıza destek olabilir. Konuşmanın tasarımı da oldukça ilgi çekici ve orijinal, biz keyifle izledik.
Kısa Kısa ⚡️
• OpenAI, Anthropic ve Google’ın dil modellerinin anlamlandırma zincirlerini daha zayıf modellerle çözen bir ekip, ortaya çıkan bilgilerde kullanıcıların API anahtarları ve kişisel bilgilerinin de bulunduğunu söylüyor. Stolen Thoughts →
• GoogleDeepMind’da kartlar yeniden dağıtılıyor. Baş araştırmacı Jeff Dean 27 yıl sonra kendi işini kurmak için ayrıldı, CEO Demis Hassabis de CEO’luğu bıraktı. CNBC →
• Otonom yapay zeka asistanlarına GrokBot da eklendi. X →
• Claude artık ürettiği tüm metinlere watermark ekleyecek. Claude →
📩 Bülteni beğendiysen ve nostaljik hissediyorsan bu
gönderiyi arkadaşlarına forwardlayabilirsin. Kendileri abone
olsalar daha iyi olur tabii.
