Lucie, felaket yaratan Fransız yapay zekası alay yağmuru altında kapanıyorFransa'nın rekabet gücünü artırması beklenen açık kaynaklı üretken yapay zeka Lucie, İnternet kullanıcılarını ikna edemedi. Çok sayıda hatanın ardından yapay zeka, sosyal ağlarda bir alay dalgasına maruz kaldı. Platform hafta sonu acilen kapatıldı. Tasarımcılar bir iletişim hatası olduğunu iddia ediyor.
Birkaç gün önce Fransız Linagora şirketi çevrimiçi oldu Lucie, üretken bir yapay zeka Ulusal Bilimsel Araştırma Merkezi ile birlikte tasarlanmıştır. Kendisini ChatGPT veya Google Gemini gibi yapay zekalara alternatif olarak sunan bu yapay zekanın, “eğitim dünyası” yıl boyunca.
İlk %100 Fransız ve açık kaynaklı yapay zeka modeli olarak sunuldu “Avrupa değerleriyle uyumlu”o kamu tarafından finanse edilen Fransa 2030 yatırım planı aracılığıyla. Bu kamu yatırım planı, Fransa'nın yapay zeka alanındaki rekabet gücünü güçlendirmeyi amaçlıyor.
Bu ilk test aşamasının bir parçası olarak İnternet kullanıcıları, ChatGPT veya başka bir chatbot ile sohbet ettikleri gibi Lucie ile de sohbet etmeye davet edildi. Birkaç gün içinde sosyal ağlara geri bildirim yağdı. Ve hiç de iyi değiller…
Lucie hemen yaptı alay konusu İnternet kullanıcıları. Yapay zeka ile etkileşime giren insanlar onun hatalarla ve saçmalıklarla dolu olduğunu fark etti. Örneğin, Lucie bazen temel hesaplamaları yapma veya sonucunu açıklama konusunda yetersiz olduğunu gösteriyordu. Sosyal medyada örnek sıkıntısı yok. Test uzmanlarının vurguladığı durumlarda yapay zeka, yanlış bilgi yaymaya veya tarihsel ve gerçek hatalar yapmaya devam ediyor.
Erken bir test aşaması
Lucie'nin tepkilerinin yarattığı tepkiyle karşı karşıya kalan Linagora, suçlamaları durdurmayı tercih etti. Şirket deneysel aşamayı askıya aldı 48 saat sonra testin bir ay boyunca devam etmesi gerekiyordu. Şirket belirtiyor “Lucie.chat platformuna erişimi geçici olarak kapat” ve her şeyden önce bir “üretken yapay zeka dijital ortak varlıklarını geliştirme yeteneklerini göstermeyi amaçlayan akademik araştırma projesi”.
Özgür yazılım konusunda uzmanlaşan Fransız şirket, Lucie'nin bir yapay zeka modelini temel aldığını belirtiyor hala tamamen ham. Şu anda modelde uygunsuz davranışları engelleyecek herhangi bir koruma bulunmuyor. fiilen, “Bu nedenle LUCIE tarafından oluşturulan yanıtlar garanti edilmez ve bazıları önyargı ve hatalar içerir”.
Linagora bunun farkında olduğunu söylüyor “'akıl yürütme' yetenekleri (basit matematik problemleri dahil) ve hatta 'Lucie'nin mevcut versiyonunun kodunu oluşturma yeteneği bile yetersiz”ama umut etmiştim “Lucie.chat platformunun kamuya açık olarak yayınlanmasının yine de Açık Kaynak projelerinin açıklık ve ortak inşa mantığı çerçevesinde mümkün olduğu”. Firma testin yapıldığını itiraf ediyor o zaman “erken” O “eğitim aşaması sadece kısmiydi”.
Basit bir iletişim hatası mı?
Başka bir deyişle model henüz tam olarak eğitilmemiştir. Test aşaması tam olarak bir “öğretim verilerinin toplanması” Lucie'nin eğitimini tamamlamak için. Şirket, ChatGPT gibi yapay zekanın aksine, Lucie'nin açık kaynaklı Fransızca verilerle sınırlı olduğunu ve bunun da ona sınırlamalar getirdiğini ekliyor. Hedeflemeden Linagora sorumlu olmasına rağmen Milli Eğitim henüz projeye dahil değil. “eğitimle ilgili kullanım örnekleri”.
Linagora'daki araştırma ve geliştirme (Ar-Ge) mühendisliği başkanı Damien Lainé, bazı İnternet kullanıcılarının alay konusu olmasına tepki olarak, Lucie'nin henüz tam anlamıyla bir yapay zeka olmadığına dikkat çekiyor. Teknik açıdan bakıldığında bu henüz sadece bir “Sınırlı bir bağlam penceresi içinde belirli bir sıraya göre kelimeleri tahmin eden olasılıksal bir dil modeliyle etkileşime geçmek için arayüz”.
Aslında Lucie'den akıl yürütme becerisi beklenmemelidir. Projenin ChatGPT gibi devlerden öne çıktığını ekliyor: “Eğitiminde kullanılan tüm verilerle ilgili tam şeffaflık”. Ona göre bu “girişime değer katan şeffaflık”. Son günlerde yaşanan fiyaskoya rağmen Lucie ile ilgili çalışmalar devam ediyor.
Lucie.chat
Birkaç gün önce Fransız Linagora şirketi çevrimiçi oldu Lucie, üretken bir yapay zeka Ulusal Bilimsel Araştırma Merkezi ile birlikte tasarlanmıştır. Kendisini ChatGPT veya Google Gemini gibi yapay zekalara alternatif olarak sunan bu yapay zekanın, “eğitim dünyası” yıl boyunca.
İlk %100 Fransız ve açık kaynaklı yapay zeka modeli olarak sunuldu “Avrupa değerleriyle uyumlu”o kamu tarafından finanse edilen Fransa 2030 yatırım planı aracılığıyla. Bu kamu yatırım planı, Fransa'nın yapay zeka alanındaki rekabet gücünü güçlendirmeyi amaçlıyor.
Bu ilk test aşamasının bir parçası olarak İnternet kullanıcıları, ChatGPT veya başka bir chatbot ile sohbet ettikleri gibi Lucie ile de sohbet etmeye davet edildi. Birkaç gün içinde sosyal ağlara geri bildirim yağdı. Ve hiç de iyi değiller…
İnek yumurtaları ve Adolf Hitler
Lucie hemen yaptı alay konusu İnternet kullanıcıları. Yapay zeka ile etkileşime giren insanlar onun hatalarla ve saçmalıklarla dolu olduğunu fark etti. Örneğin, Lucie bazen temel hesaplamaları yapma veya sonucunu açıklama konusunda yetersiz olduğunu gösteriyordu. Sosyal medyada örnek sıkıntısı yok. Test uzmanlarının vurguladığı durumlarda yapay zeka, yanlış bilgi yaymaya veya tarihsel ve gerçek hatalar yapmaya devam ediyor.
Aslında Lucie'nin, ChatGPT'nin GPT 3.0 modelini temel alan ilk halka açık sürümü gibi iki yıl önce başlatılan üretken bir yapay zeka seviyesine sahip olduğu görülüyor. Bunu yansıtan Lucie, muhataplarına absürt cevaplar sunuyor. Yapay zeka aslında şu prensipten başlayabilir: inek yumurtası var…ve bunları tavuk yumurtasıyla karıştırın. Kısacası sonuç, artık ChatGPT 4o gibi daha gelişmiş yapay zeka modellerine alışkın olan kullanıcıların gereksinimlerini karşılamaktan çok uzak.
Daha da kötüsü şu ortaya çıkıyor Lucie'nin hiçbir güvencesi yokaşırılıklardan ve diğer tartışmalı sözlerden kaçınması gerekiyordu. Sosyal medya eğitmeni ve NordPresse hiciv gazetesinin yaratıcısı Vincent Flibustier de onu Adolf Hitler tarzında konuşturmayı başardı. Eğitim dünyasına yönelik bir yapay zeka için utanç verici.Hiçbir şekilde istenildiği gibi manipüle edilemeyen #Lucie ulusal.
Sanırım hafta sonumu o geçirecek#AI #EmmanuelMacron https://t.co/ouRuer78fs pic.twitter.com/ZqC2qXQmxo
— Semper Paratus (@DaInverseCramer) 25 Ocak 2025
İnovasyon uzmanı Alain Goudey için proje “Genel bir kamu açılışına açık bir şekilde hazır değildik”. Yapay zeka, modellerin yeteneklerini araştırmak için uyguladığı olağan test dizisini geçemedi.Tamam, bu şey kesinlikle utanç verici.
Ona başka bir talimat vermedim, bu konuşmanın başlangıcı…
Bunu okullardaki çocuklara vereceğinizi hayal edebiliyor musunuz? https://t.co/hkLlPJSPcO pic.twitter.com/9FOTPdmH5Y
— Vincent Flibustier(@vinceflibustier) 25 Ocak 2025
Erken bir test aşaması
Lucie'nin tepkilerinin yarattığı tepkiyle karşı karşıya kalan Linagora, suçlamaları durdurmayı tercih etti. Şirket deneysel aşamayı askıya aldı 48 saat sonra testin bir ay boyunca devam etmesi gerekiyordu. Şirket belirtiyor “Lucie.chat platformuna erişimi geçici olarak kapat” ve her şeyden önce bir “üretken yapay zeka dijital ortak varlıklarını geliştirme yeteneklerini göstermeyi amaçlayan akademik araştırma projesi”.
Özgür yazılım konusunda uzmanlaşan Fransız şirket, Lucie'nin bir yapay zeka modelini temel aldığını belirtiyor hala tamamen ham. Şu anda modelde uygunsuz davranışları engelleyecek herhangi bir koruma bulunmuyor. fiilen, “Bu nedenle LUCIE tarafından oluşturulan yanıtlar garanti edilmez ve bazıları önyargı ve hatalar içerir”.
Linagora bunun farkında olduğunu söylüyor “'akıl yürütme' yetenekleri (basit matematik problemleri dahil) ve hatta 'Lucie'nin mevcut versiyonunun kodunu oluşturma yeteneği bile yetersiz”ama umut etmiştim “Lucie.chat platformunun kamuya açık olarak yayınlanmasının yine de Açık Kaynak projelerinin açıklık ve ortak inşa mantığı çerçevesinde mümkün olduğu”. Firma testin yapıldığını itiraf ediyor o zaman “erken” O “eğitim aşaması sadece kısmiydi”.
Basit bir iletişim hatası mı?
Başka bir deyişle model henüz tam olarak eğitilmemiştir. Test aşaması tam olarak bir “öğretim verilerinin toplanması” Lucie'nin eğitimini tamamlamak için. Şirket, ChatGPT gibi yapay zekanın aksine, Lucie'nin açık kaynaklı Fransızca verilerle sınırlı olduğunu ve bunun da ona sınırlamalar getirdiğini ekliyor. Hedeflemeden Linagora sorumlu olmasına rağmen Milli Eğitim henüz projeye dahil değil. “eğitimle ilgili kullanım örnekleri”.
Şirket savunma yapıyor iletişim hatası. Linagora için bu “LUCIE'nin mevcut durumunda neler yapabileceği veya yapamayacağı ve ayrıca şu ana kadar yapılan işin doğası hakkında yeterince iyi iletişim kuramadığımız ve açıklığa kavuşturamadığımız açıktır”.
Linagora'daki araştırma ve geliştirme (Ar-Ge) mühendisliği başkanı Damien Lainé, bazı İnternet kullanıcılarının alay konusu olmasına tepki olarak, Lucie'nin henüz tam anlamıyla bir yapay zeka olmadığına dikkat çekiyor. Teknik açıdan bakıldığında bu henüz sadece bir “Sınırlı bir bağlam penceresi içinde belirli bir sıraya göre kelimeleri tahmin eden olasılıksal bir dil modeliyle etkileşime geçmek için arayüz”.
Aslında Lucie'den akıl yürütme becerisi beklenmemelidir. Projenin ChatGPT gibi devlerden öne çıktığını ekliyor: “Eğitiminde kullanılan tüm verilerle ilgili tam şeffaflık”. Ona göre bu “girişime değer katan şeffaflık”. Son günlerde yaşanan fiyaskoya rağmen Lucie ile ilgili çalışmalar devam ediyor.
Kaynak :01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Lucie.chat