Android Telefonda LLMyi Yerel Olarak Nasıl Yüklersiniz ve Çalıştırırsınız

Kaydolun ve günde 1000 $ kazanın ⋙

Büyük dil modellerini (LLM) Android telefonunuzda yerel olarak çalıştırmak , bulut sunucularına veya İnternet bağlantısına güvenmeden bu AI modellerine erişebileceğiniz anlamına gelir . Bu yerel kurulum, verilerinizin güvende kalmasını ve cihazınızda saklanmasını sağlayarak gizliliğinizi garanti eder. Mobil donanımlardaki gelişmelerle birlikte yapay zeka modellerinin yerel olarak çalıştırılması artık bir gerçeklik haline geldi. MLC Chat uygulaması bu güçlü teknolojiyi telefonunuzda deneyimlemenizi kolaylaştırır.

Bu makalede, Android telefonlarda LLM'yi yerel olarak çalıştırmanın önemi açıklanacak ve MLC Chat uygulamasını kullanarak bunları yüklemek ve çalıştırmak için adım adım talimatlar sağlanacaktır.

Android telefonda LLM neden yapılır?

Hukuk alanındaki yüksek lisans programları genellikle önemli miktarda bilgi işlem gücü gerektirdiğinden bulut sunucularda yürütülür. Android telefonlar LLM yaparken bazı kısıtlamalara sahip olsa da, aynı zamanda bazı ilginç olanaklara da kapı açıyor.

  • Gelişmiş Gizlilik : Tüm bilgi işlem telefonunuzda gerçekleştiğinden, verileriniz yerel kalır; bu da paylaştığınız hassas bilgiler açısından önemlidir.
  • Çevrimdışı Erişim : Bu modellere erişmek veya etkileşimde bulunmak için sürekli bir İnternet bağlantısına gerek yoktur. Bu, özellikle uzak bölgelerdeki veya internet bağlantısı sınırlı olan kullanıcılar için oldukça faydalıdır.
  • Maliyet Etkinliği : Bulut sunucularında LLM çalıştırmak, bulut depolama ve işlem gücü gibi operasyonel maliyetleri beraberinde getirir. Bu yöntem kullanıcılar için maliyet açısından etkili bir çözüm sunmaktadır.

Android'de MLC Chat'i Yükleme ve Çalıştırma Adım Adım Kılavuzu

MLC Chat uygulaması, kullanıcıların bulut tabanlı hizmetlere ihtiyaç duymadan, mobil telefonlar da dahil olmak üzere çeşitli cihazlarda büyük dil modellerini (LLM) yerel olarak çalıştırmalarına ve bunlarla etkileşime girmelerine olanak sağlamak için tasarlanmıştır. Android cihazınızda LLM programını yerel olarak çalıştırmak için aşağıdaki adımları izleyin.

Adım 1: MLC Chat uygulamasını yükleyin

Öncelikle aşağıdaki bağlantıdan MLC Chat uygulamasının APK dosyasını (112MB) indirmeniz gerekiyor.

MLC Chat uygulaması APK dosyası

Android Telefonda LLM'yi Yerel Olarak Nasıl Yüklersiniz ve Çalıştırırsınız
MLC Chat uygulamasını yükleyin

APK indirildikten sonra, kurulumu başlatmak için dosyaya dokunun.

Adım 2: LLM'yi indirin

Uygulamayı başarıyla yükledikten sonra uygulamayı açtığınızda indirebileceğiniz LLM programlarının listesini göreceksiniz. LLama-3.2, Phi-3.5 ve Mistral gibi farklı büyüklük ve yeteneklerde modelleri mevcuttur. İhtiyacınıza uygun modeli seçip yanındaki indirme ikonuna tıklayarak indirmeye başlayabilirsiniz. Örneğin Redmi Note 10 gibi orta sınıf bir telefon kullanıyorsanız daha akıcı bir performans için Qwen-2.5 gibi hafif bir model seçin.

Android Telefonda LLM'yi Yerel Olarak Nasıl Yüklersiniz ve Çalıştırırsınız
LLM'yi indirin

Adım 3: Yüklü LLM'yi çalıştırın

Model indirildikten sonra yanında bir sohbet simgesi belirecektir. Modellemeye başlamak için ikona tıklayın.

Android Telefonda LLM'yi Yerel Olarak Nasıl Yüklersiniz ve Çalıştırırsınız
Yüklü LLM'yi çalıştırın

Model hazır olduğunda komutları yazmaya ve yerel LLM ile etkileşime girmeye başlayabilirsiniz.

Android Telefonda LLM'yi Yerel Olarak Nasıl Yüklersiniz ve Çalıştırırsınız

Örneğin Redmi Note 10 gibi bir cihazda Qwen2.5 gibi daha küçük bir modeli çalıştırmak oldukça akıcı bir deneyim sağlıyor ve saniyede yaklaşık 1,4 token üretiyor. Bu performans Galaxy S23 Ultra gibi üst seviye cihazlara göre yavaş olsa da , kısa sohbetler ve basit içerik oluşturma gibi temel görevler için hala iyi çalışıyor.

Android cihazlarda MLC Chat uygulaması aracılığıyla yerel olarak LLM çalıştırmak, yapay zeka modelleriyle etkileşime girmek için erişilebilir ve gizliliğin korunduğu bir yol sağlar. Performans büyük ölçüde telefonun donanımına bağlıdır. Bu çözüm, yapay zeka modellerine çevrimdışı erişime ihtiyaç duyan, gerçek zamanlı olarak LLM test eden veya gizlilik konusunda endişe duyan kullanıcılar için idealdir. Mobil donanım gelişmeye devam ettikçe, yerel LLM'nin yetenekleri de genişleyecek ve bu, yapay zeka teknolojisi için heyecan verici bir sınır haline gelecektir.

Sign up and earn $1000 a day ⋙

Leave a Comment

Androidde bulanık fotoğraflar nasıl düzeltilir

Androidde bulanık fotoğraflar nasıl düzeltilir

Android telefonlarda bulanık fotoğrafların (kısmen) nasıl düzeltileceğini öğrenelim.

Android TV için En İyi 6 Dosya Yöneticisi

Android TV için En İyi 6 Dosya Yöneticisi

Her Android TV kullanıcısının çeşitli sebeplerden dolayı bir dosya yöneticisi yüklemesi gerekir.

Androidde Hangi Uygulamaların En Çok RAM Kullandığını Nasıl Kontrol Edebilirsiniz

Androidde Hangi Uygulamaların En Çok RAM Kullandığını Nasıl Kontrol Edebilirsiniz

Bir uygulama cihazın RAM'inin çok fazlasını "tüketirse", sistemin çoklu görev yeteneğini ciddi şekilde azaltacağı gibi, gecikmeye de neden olarak deneyimi ciddi şekilde etkileyecektir.

Kendi özel Android maskotunuzu nasıl yaratırsınız

Kendi özel Android maskotunuzu nasıl yaratırsınız

Artık The Bot adında bir Android maskotunun kendi versiyonunu yaratabilirsiniz. Malzemeleri, kıyafetleri, aksesuarları ve aksesuarları seçerek Bot'u kendi zevkinize göre özelleştirebilirsiniz.

Androidde FaceTime nasıl kullanılır?

Androidde FaceTime nasıl kullanılır?

Apple sonunda Android cihaz kullanıcılarının FaceTime'ı kullanmasına izin veriyor.

Androidde Bu 6 Ses Değiştirme Uygulamasıyla Eğlenin

Androidde Bu 6 Ses Değiştirme Uygulamasıyla Eğlenin

Hiç arkadaşlarınıza komik bir sesle şaka yapmak istediniz mi? Akıllı telefonlardaki bazı uygulamalar sayesinde artık bunu yapmak için hantal bilgisayar yazılımlarına ihtiyacınız yok.

Verilerinizi Şantaj İçin Kullanan SpyLoan Android Uygulamalarından Nasıl Güvende Kalınır

Verilerinizi Şantaj İçin Kullanan SpyLoan Android Uygulamalarından Nasıl Güvende Kalınır

Tipik bir örnek, kullanıcıları düşük faizli kredi vaatleriyle kandıran ancak bunun yerine kişisel verileri toplayan ve bu verilerle mağdurları şantaj yapan SpyLoan uygulamasıdır.

Android Autonun Çalışmaması Nasıl Düzeltilir

Android Autonun Çalışmaması Nasıl Düzeltilir

Aşağıdaki yazıda Quantrimang, Android Auto'nun telefonda veya araç ekranında çalışmaması durumunda sorunu çözmek için bazı ipuçları sunacak.

Tüm web sayfasını yakalamak için bir Android cihazın kayan ekran görüntüsünü alma talimatları

Tüm web sayfasını yakalamak için bir Android cihazın kayan ekran görüntüsünü alma talimatları

Arkadaşlarınızın mesajlarını onlarca ekran görüntüsüyle "bombalamak" yerine, kayan bir ekran görüntüsü alıp gönderebilirsiniz.

Androidde son uygulama çökme hataları nasıl düzeltilir

Androidde son uygulama çökme hataları nasıl düzeltilir

Android akıllı telefonlarda, cihazdaki uygulamaların sık sık çökmesine neden olan sinir bozucu bir hata yaşanıyor gibi görünüyor.

Android Uygulamalarının Sizi İzlediğine Dair 4 İşaret

Android Uygulamalarının Sizi İzlediğine Dair 4 İşaret

Garip pil tüketimi veya veri artışları mutlaka bir hata değildir. Konumunuzu, alışkanlıklarınızı vb. gizlice izleyen kötü amaçlı bir uygulama olabilir.

Androidde uygulamaları gizlemenin ve kısıtlamanın 6 yolu

Androidde uygulamaları gizlemenin ve kısıtlamanın 6 yolu

Telefonunuzdaki çok sayıda uygulama nedeniyle dikkatinizin dağılması kolaydır. Ekran süresini azaltmanın en iyi yolu bu uygulamaları görüş alanınızdan uzaklaştırmaktır.

Tencent, Android oyunlarını Microsoft Store Windows 11e getiriyor

Tencent, Android oyunlarını Microsoft Store Windows 11e getiriyor

Microsoft, bu yılın başlarında, Android uygulamalarının Windows 11'de doğal olarak çalışmasını sağlamak için tasarlanan Windows Alt Sistemini Android için kullanımdan kaldırma kararını duyurmuştu.

Androidde Oyunlar ve Uygulamalar İçin Asla Ödeme Yapmamanın Yolları

Androidde Oyunlar ve Uygulamalar İçin Asla Ödeme Yapmamanın Yolları

Play Store'da alışveriş yaparken, Google Opinion Rewards sayesinde birçok kişi yıllardır gerçek para harcamadı.

Android durum çubuğundaki simgeler ne anlama geliyor?

Android durum çubuğundaki simgeler ne anlama geliyor?

Daha fazla özellik eklendikçe daha fazla simge ortaya çıkıyor ve bazen kafa karıştırıcı olabiliyor. İşte tüm bu sembollerin anlamları.

IPhone e-postasının güncellenmemesi nasıl düzeltilir

IPhone e-postasının güncellenmemesi nasıl düzeltilir

iPhone'unuzdaki e-posta güncellenmiyorsa, bir dizi sorun olabilir. Uyumsuz sistem ayarları, yazılım sorunları, e-posta protokollerindeki farklılıklar vb. dahil.

IPhoneda fotoğraflara emoji ekleme işlemi son derece basit

IPhoneda fotoğraflara emoji ekleme işlemi son derece basit

iPhone'da fotoğraflara emoji ekleyebilmek için aşağıdaki talimatlara göre birkaç küçük hileye ihtiyacımız olacak.

Android Telefonunuzu Kullanabileceğiniz 10 Şaşırtıcı Yol

Android Telefonunuzu Kullanabileceğiniz 10 Şaşırtıcı Yol

Kablosuz şarj cihazından fitness takipçisine, mezura işlevinden tutun da akıllı saatlere kadar Android telefonunuz şaşırtıcı sayıda gizli özelliğe sahip.

IPhone/iPad ve Macte AirDrop nasıl kapatılır

IPhone/iPad ve Macte AirDrop nasıl kapatılır

iPhone veya iPad'inizde AirDrop'u Denetim Merkezi'nden veya Ayarlar'dan kapatabilirsiniz. Mac için AirDrop'u Denetim Merkezi'nden, Sistem Tercihleri'nden veya Finder'dan kapatabilirsiniz.

IPhoneda Resim İçinde Resim: Resim İçinde Resim (PIP) Nasıl Etkinleştirilir ve Kullanılır

IPhoneda Resim İçinde Resim: Resim İçinde Resim (PIP) Nasıl Etkinleştirilir ve Kullanılır

iOS 14'te YouTube videolarını ekran dışında izlemek için Resim İçinde Resim (PiP) özelliğini kullanabilirsiniz ancak YouTube bu özelliği uygulamada kilitlediği için PiP'yi doğrudan kullanamazsınız, aşağıda detaylı olarak anlatacağımız birkaç küçük adım daha eklemeniz gerekiyor.

Androidde bulanık fotoğraflar nasıl düzeltilir

Androidde bulanık fotoğraflar nasıl düzeltilir

Android telefonlarda bulanık fotoğrafların (kısmen) nasıl düzeltileceğini öğrenelim.

IPhoneunuzun pilinin bu kadar çabuk bitmesinin sebebi Chromedur

IPhoneunuzun pilinin bu kadar çabuk bitmesinin sebebi Chromedur

Bazı kişiler pil ömrünü artırmak için tek bir uygulamayı kaldırma ipuçları paylaştı: Chrome. Pil ömrünüz o zaman daha iyi olacak!

Android TV için En İyi 6 Dosya Yöneticisi

Android TV için En İyi 6 Dosya Yöneticisi

Her Android TV kullanıcısının çeşitli sebeplerden dolayı bir dosya yöneticisi yüklemesi gerekir.

IPhoneda süper havalı fotoğraf düzenleme formülleri

IPhoneda süper havalı fotoğraf düzenleme formülleri

Gerçekten iyi fotoğraflar elde etmek için bazı fotoğraf düzenleme araçlarına ihtiyacınız olacak. Ancak iPhone'da ışıl ışıl fotoğraflar elde etmek için düzenleme formülleri de uygulayabilirsiniz.

IPhone Kullanıcılarının Keşke Sahip Olsalardı Diledikleri Kullanışlı Galaxy Özellikleri

IPhone Kullanıcılarının Keşke Sahip Olsalardı Diledikleri Kullanışlı Galaxy Özellikleri

Ekran görüntüleri bilgileri kaydetmek için harikadır, ancak çoğu zaman bilgileri nereden bulduğunuzu tahmin etmenize neden olur. Samsung Galaxy cihazları bu sorunu harika bir özellikle çözüyor: Orijinal web sitesine bağlantı veren ekran görüntüleri.

Androidde Hangi Uygulamaların En Çok RAM Kullandığını Nasıl Kontrol Edebilirsiniz

Androidde Hangi Uygulamaların En Çok RAM Kullandığını Nasıl Kontrol Edebilirsiniz

Bir uygulama cihazın RAM'inin çok fazlasını "tüketirse", sistemin çoklu görev yeteneğini ciddi şekilde azaltacağı gibi, gecikmeye de neden olarak deneyimi ciddi şekilde etkileyecektir.

IPhone için video boyutunu küçültmenin 6 yolu

IPhone için video boyutunu küçültmenin 6 yolu

Büyük boyut, depolama kapasitesini etkilemesinin yanı sıra dosya paylaşımını da zorlaştırıyor. Ayrıca büyük dosyalar göndermek mobil verilerinizi ve bant genişliğinizi hızla tüketecektir.

IPhoneda Servis Yok hatasını düzeltmenin bazı yollarının özeti

IPhoneda Servis Yok hatasını düzeltmenin bazı yollarının özeti

Servis Yok hatasının bazı nedenleri şunlardır: kapsama alanı yok, SIM kart sorunu, iOS sistem hatası,... Birçok farklı neden olabileceğinden, aşağıdaki talimatlara göre iPhone'daki Servis Yok sorununu düzeltmek için bazı çözümleri deneyebilirsiniz.

IPhoneda ölçü birimlerini son derece basit bir şekilde nasıl değiştirirsiniz

IPhoneda ölçü birimlerini son derece basit bir şekilde nasıl değiştirirsiniz

iOS 17'de iPhone'u seçtiğimizde, başka hiçbir destekleyici uygulama yüklememize gerek kalmadan, belgenin seçeneklerinde ölçü birimini değiştirmeye yarayan bir ayar bulunuyor.

IPhoneda USB-C Konnektörde Sıvı Algılandı uyarısı nasıl düzeltilir

IPhoneda USB-C Konnektörde Sıvı Algılandı uyarısı nasıl düzeltilir

iPhone'unuzu şarj etmeye çalışıyorsunuz ancak konektörde sıvı tespit edildiğine dair bir uyarı mı görüyorsunuz? Sıvı Algılandı uyarısını gidermek ve iPhone'unuzun tekrar normal şekilde şarj olmasını sağlamak için uygulayabileceğiniz sorun giderme adımlarına göz atın.