ChatGPT tarzı yapay zeka sistemi Apple iPhone’lara ve iPad’lere mi geliyor? Rapor, AppleGPT’nin kullanımda olduğuna dair ipuçları veriyor

Yapay zeka (AI), 2023’ün moda sözcüğü oldu ve şirketler bu teknolojiyi kendi ürün gruplarına dahil etmek için çaba gösteriyor. Bu yılın başlarında Apple’ın, çalışanların yeni özellikleri test etmesine, metni özetlemesine ve öğrendiği verilere dayanarak soruları yanıtlamasına yardımcı olan ChatGPT’ye benzer bir dahili hizmet geliştirdiği bildirilmişti. Temmuz ayında Mark Gurman, Apple’ın kendi yapay zeka modeli üzerinde çalıştığını iddia etmişti. Bu büyük dil modeli (LLM) çalışmasının kalbi, Ajax adı verilen yeni bir çerçevedir. “Apple GPT” lakaplı ChatGPT benzeri uygulama, Ajax çerçevesinin sunabileceği pek çok olanaktan yalnızca biridir. Şimdi, Apple tarafından sunulan bir araştırma makalesi, Büyük Dil Modellerinin (LLM’ler) muhtemelen iPhone ve iPad de dahil olmak üzere Apple cihazlarında çalıştığına dair ipuçları veriyor!

iPhone’da Yüksek Lisans Dereceleri

Araştırma makalesi (ilk olarak VentureBeat tarafından fark edildi) “LLM in a flash: Efficient Large Language Model Inference with Limited Memory” başlığını taşıyor. Özellikle sınırlı DRAM kapasitesine sahip cihazlar için cihaz üzerinde LLM’leri çalıştıran temel zorluğun üstesinden gelir. Farkında olmayanlar için LLM’ler milyarlarca parametre içerir. Bu nedenle, bunların kısıtlı DRAM’e sahip cihazlarda çalıştırılması zor bir durumdur. Makale, bu sorunu çözmek için LLM’lerin, model parametrelerini flash belleğe kaydederek ancak talep üzerine DRAM’e getirerek cihaz üzerinde çalıştırılabileceğini öne sürüyor.

Apple’da Makine Öğrenimi Mühendisi ve makalenin baş yazarı Keivan Alizadeh şunları söyledi: “Yöntemimiz, flash bellek davranışıyla uyumlu bir çıkarım maliyet modeli oluşturmayı içeriyor ve iki kritik alanda optimizasyon yapmamıza rehberlik ediyor: bilgisayardan aktarılan veri hacminin azaltılması. Flash ve verileri daha büyük, daha bitişik parçalar halinde okumak.

Hangisi olduğundan emin değilim
satın almak için mobil?

Ekip iki temel teknik kullandı: “Pencereleme ve satır-sütun gruplaması. Pencereleme, veri aktarımını azaltmak için önceden etkinleştirilmiş nöronları yeniden kullanırken satır-sütun paketleme, flash bellekten okunan veri parçalarının boyutunu artırır. Bu tekniklerin her ikisi de Apple M1 Max SoC’de 4-5 kat artışa yol açtı.

Teorik olarak bu bağlama uyarlanabilir yükleme, iPhone’lar ve iPad’ler gibi sınırlı belleğe sahip cihazlarda LLM’lerin çalıştırılmasının önünü açabilir.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir