Yapay Zeka Robotları Jailbreak Edilebilir ve Sonuçları Korkunç Olabilir

Kaydolun ve günde 1000 $ kazanın ⋙

ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.

UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.

Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.

RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.

İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”

Yapay Zeka Robotları 'Jailbreak' Edilebilir ve Sonuçları Korkunç Olabilir

Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.

Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.

Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.

Sign up and earn $1000 a day ⋙

Leave a Comment

Sabit diske erişim nasıl geri kazanılır, sabit disk açılamaması hatası nasıl düzeltilir

Sabit diske erişim nasıl geri kazanılır, sabit disk açılamaması hatası nasıl düzeltilir

Bu yazımızda, sabit diskiniz bozulduğunda ona nasıl yeniden erişebileceğinizi anlatacağız. Haydi gelin birlikte izleyelim!

AirPodsta Konuşma Farkındalığı ve Canlı Dinleme nasıl kullanılır?

AirPodsta Konuşma Farkındalığı ve Canlı Dinleme nasıl kullanılır?

İlk bakışta AirPods, diğer gerçek kablosuz kulaklıklara benziyor. Ancak birkaç az bilinen özelliği keşfedilince her şey değişti.

IOS 26 hakkında her şey

IOS 26 hakkında her şey

Apple, yepyeni buzlu cam tasarımı, daha akıllı deneyimler ve bilindik uygulamalarda iyileştirmeler içeren büyük bir güncelleme olan iOS 26'yı tanıttı.

2025te öğrenciler için en iyi dizüstü bilgisayarlar

2025te öğrenciler için en iyi dizüstü bilgisayarlar

Öğrencilerin çalışmaları için belirli bir dizüstü bilgisayara ihtiyaçları vardır. Bu dizüstü bilgisayar, seçtikleri bölümde iyi performans gösterecek kadar güçlü olmasının yanı sıra, tüm gün yanınızda taşıyabileceğiniz kadar kompakt ve hafif olmalıdır.

Windows 10a yazıcı nasıl eklenir

Windows 10a yazıcı nasıl eklenir

Windows 10'a yazıcı eklemek basittir, ancak kablolu cihazlar için süreç kablosuz cihazlardan farklı olacaktır.

Bilgisayarınızdaki RAMi nasıl kontrol edebilir ve RAM hatalarını en yüksek doğruluk oranıyla nasıl kontrol edebilirsiniz?

Bilgisayarınızdaki RAMi nasıl kontrol edebilir ve RAM hatalarını en yüksek doğruluk oranıyla nasıl kontrol edebilirsiniz?

Bildiğiniz gibi RAM, bir bilgisayarda çok önemli bir donanım parçasıdır; verileri işlemek için bellek görevi görür ve bir dizüstü bilgisayarın veya masaüstü bilgisayarın hızını belirleyen faktördür. Aşağıdaki makalede, WebTech360, Windows'ta yazılım kullanarak RAM hatalarını kontrol etmenin bazı yollarını anlatacaktır.

Normal TV ile Akıllı TV arasındaki fark

Normal TV ile Akıllı TV arasındaki fark

Akıllı televizyonlar gerçekten dünyayı kasıp kavurdu. Teknolojinin sunduğu pek çok harika özellik ve internet bağlantısı, televizyon izleme şeklimizi değiştirdi.

Dondurucuda ışık yokken buzdolabında neden ışık var?

Dondurucuda ışık yokken buzdolabında neden ışık var?

Buzdolapları evlerde sıkça kullanılan cihazlardır. Buzdolapları genellikle 2 bölmeden oluşur, soğutucu bölme geniştir ve kullanıcı her açtığında otomatik olarak yanan bir ışığa sahiptir, dondurucu bölme ise dardır ve hiç ışığı yoktur.

Wi-Fiyi Yavaşlatan Ağ Tıkanıklığını Gidermenin 2 Yolu

Wi-Fiyi Yavaşlatan Ağ Tıkanıklığını Gidermenin 2 Yolu

Wi-Fi ağları, yönlendiriciler, bant genişliği ve parazitlerin yanı sıra birçok faktörden etkilenir; ancak ağınızı güçlendirmenin bazı akıllı yolları vardır.

Tenorshare Reiboot Kullanarak Veri Kaybı Olmadan iOS 17den iOS 16ya Nasıl Geri Dönülür

Tenorshare Reiboot Kullanarak Veri Kaybı Olmadan iOS 17den iOS 16ya Nasıl Geri Dönülür

Telefonunuzda kararlı iOS 16'ya geri dönmek istiyorsanız, iOS 17'yi kaldırma ve iOS 17'den 16'ya geri dönme konusunda temel kılavuzu burada bulabilirsiniz.

Her gün yoğurt yediğinizde vücudunuzda neler olur?

Her gün yoğurt yediğinizde vücudunuzda neler olur?

Yoğurt harika bir besindir. Her gün yoğurt yemek faydalı mıdır? Her gün yoğurt yediğinizde vücudunuzda nasıl değişiklikler olur? Hadi birlikte öğrenelim!

Hangi pirinç türü sağlık açısından daha iyidir?

Hangi pirinç türü sağlık açısından daha iyidir?

Bu yazıda en besleyici pirinç türleri ve seçtiğiniz pirincin sağlık yararlarından nasıl en iyi şekilde yararlanabileceğiniz ele alınıyor.

Sabahları zamanında nasıl uyanılır

Sabahları zamanında nasıl uyanılır

Uyku düzeninizi ve uyku vakti rutininizi oluşturmak, çalar saatinizi değiştirmek ve beslenmenizi buna göre ayarlamak, daha iyi uyumanıza ve sabahları zamanında uyanmanıza yardımcı olabilecek önlemlerden birkaçıdır.

Rent Please! oynamak için ipuçları Yeni Başlayanlar İçin Ev Sahibi Simülasyonu

Rent Please! oynamak için ipuçları Yeni Başlayanlar İçin Ev Sahibi Simülasyonu

Kiralayın Lütfen! Landlord Sim, iOS ve Android'de oynanabilen bir simülasyon mobil oyunudur. Bir apartman kompleksinin ev sahibi olarak oynayacak ve dairenizin içini iyileştirme ve kiracılar için hazır hale getirme amacıyla bir daireyi kiralamaya başlayacaksınız.

En Son Banyo Kule Savunma Kodları ve Kodların Nasıl Girileceği

En Son Banyo Kule Savunma Kodları ve Kodların Nasıl Girileceği

Bathroom Tower Defense Roblox oyun kodunu alın ve heyecan verici ödüller için kullanın. Daha yüksek hasara sahip kuleleri yükseltmenize veya kilidini açmanıza yardımcı olacaklar.