AI DURDURULMALI MI?

Bazı teknoloji devleri, GPT-4’ten sonraki tüm yapay zeka gelişiminin altı ay süreyle durdurulmasını isteyen “Dev Yapay Zeka Deneylerini Duraklat: Açık Mektup” başlıklı bir mektup yazdı.

“…son aylarda AI laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük.”

Dev Yapay Zeka Deneylerini Duraklatın: Açık Bir Mektup

Bu mektubu şimdiye kadar kim imzaladı? Elon Musk, Steve Wozniak, Andrew Yang, birçok profesör, AI Uzmanı ve öğrenci. Bu blog yazısının yazıldığı tarihte mektubun 1377 imzası var.

Açık Mektup, kişisel olarak hemfikir olduğum bazı önemli noktalara değiniyor:

• AI, dünyadaki tarihte derin bir değişiklik sunuyor
• AI Laboratuarları, bu AI gelişiminin sorumluluğunu üstlenecek donanıma sahip değildir.
• Makinelerin bilgi kanallarını propaganda ve gerçek olmayan şeylerle doldurmasına izin vermemeliyiz. (elbette, biz insanlar botların yardımı olmadan bu konuda oldukça iyiydik.)
• Hangi işlerin otomatikleştirilmesi ve hangilerinin insan kontrolünde kalması gerektiğini düşünmeliyiz. (Öhöh, içerik moderasyonu, sosyal medyanın son zamanlarda yankılanan bir F aldığı bir şey.)
• Medeniyetimizin kontrolünü kaybetme riskini almamalıyız. (Ama yine de, biz gelişigüzel bir şekilde dünyanın üzerindeki büyük ölçüde düzenlenmemiş bir alana uydular fırlattığımız ve bazıları şebekede olmak isteyebilecek veya istemeyebilecek her köşeye İnternet erişimi sağladığımız için kim gerçekten kontrolü talep edebilir.)
• Yapay zekanın dünya çapında çalışması gereken yönergeleri geliştirirken, büyümeyi sınırlamak için bağımsız inceleme ve anlaşmalarımız olmalıdır. (Eğer dünya çapında değilse, denemenin ne anlamı var ki?)

Burası sadece biraz “woah, bekle …” demeye başladığım yer.

“…tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz.”

Dev Yapay Zeka Deneylerini Duraklatın: Açık Bir Mektup

Mektup, duraklamanın herkese açık ve doğrulanabilir olmasını talep ederken, buna bir an için bakalım ve geri dönelim.

Bunu tartışırken nelere dikkat etmeliyiz?

Bu süreci yönetmeye yardımcı olacak etik ve bilge insanlara sahip miyiz? Şahsen, bir kişinin yapay zeka gibi “yutan bir ateşle” nasıl yaşayabileceğine dair eski bilgeliğe inanıyorum. Bir kişi:

• Hayat doğru.
• Konuşma düz.
• Gasp yoluyla zengin olmayı kim küçümser.
• Kim elini rüşvetsiz sallar.
• Kan dökülmesine kulaklarını tıkayan.
• Kötülüğe bakmamak için gözlerini kapatan.
• Yeşaya 33:14-15’ten Liste

Alıntıladığım kitaba katılsanız da katılmasanız da, iyi yaşayan, doğru konuşan, zorla para almayan, rüşvet almayan, kan dökülmesine karşı duran, kötülüğe göz yummayan insanların bir tür olduğu konusunda belki hepimiz hemfikir olabiliriz. bu süreçte güvenebileceğimiz insanlar?

Bu dilekçeyi imzalayan birçok kişinin GPT-4 gelişiminin durdurulmasında mali çıkarı var

Steve Wozniak hakkında sahibi Geçen yıl itibariyle 15 milyon dolarlık Apple hissesi. Apple, Siri’yi elden geçirebilmek için GPT-4’e yetişmek için çalışıyor. AI’ları GPT-4’ü geçmediği için bu moratoryumun benimsenmesi Apple’a bir fırsat verecektir. Yani, dur demekle kendi çıkarı var.

Craig Peters, Getty Images – Getty Images şimdiden AI sanatının yaratıcılarına da dava açıyorl, İçeriğini kazımak için Ahır Bölümü. Büyük bir nokta var ki içeriğimizde yapay zekayı TRENLER OLUP SEÇMELİYİZ. Yine de, bu kişinin dur çağrısı yapmakta kazanılmış bir mali çıkarı var (belki de bu kontrol yarışına dayalı yapay zekada kendi yapay zekasını geliştirmek için?)

Bu sadece ikisi…

Kesinlikle bu listede, mektubu imzalamak için daha asil nedenleri olan birçok bilim adamı ve uzman var, ancak bazı önemli kişiler yok – teknolojileri belki de bir virüse neden olmaya çalışıyor gibi görünen bu mektubu imzalayan teknoloji temsilcilerinin önünde olan insanlar. senin ve benim gibi insanların haykırışı – bir şeyin “viral olmasına” yardım edebilecek sıradan sıradan insanlar.

Bizim muammamız

Çoğumuz – benim gibi – buradaki ortalama sıradan insanların bu süreç hakkında söyleyebileceğimiz çok az kontrolü veya sözü var, ancak buraya birkaç düşünce eklemek istiyorum.

Kimliğime, özgünlüğüme, kişiliğime hakkım var.

Eski bir atasözü “İyi bir isme sahip olmak, büyük zenginliklere sahip olmaktan daha iyidir.” Web sitemin kazınmasını kabul ettiğim için bunun bir yapay zeka aracı için eğitim verisi olarak taranmasına izin verdiğim anlamına gelmez!

Bu araçlar, “Johnny Depp gibi yanıt verebilmeleri” veya “Ernest Hemingway gibi yazabilmeleri” için eğitiliyor.

Benim ya da benim kimliğim, özgünlüğüm, kişiliğim korunmaya değer bir şey değil mi? Elvis veya Marilyn Monroe, teknik bilgisi olan herhangi biri tarafından yeniden canlandırılabilir mi?

Sizin ve benim fikri mülkiyetime saygı duyulması gerektiğini biliyorum – ama çoğu zaman öyle olmadı.

Ama şimdi, kendimi oraya yeterince koyarsam – bu, birinin bir yapay zekayı eğitmek için podcast’imi kullanma ve ardından sesimin istediği her şeyi söylemesine izin verme hakkına sahip olduğu anlamına mı geliyor? İstedikleri herhangi bir şeyi onaylıyorlar mı? Gerçek hayatta buna benzer bir şey yaşadım, benimkine benzer bir sese sahip biri eski podcast bölümlerinin üzerindeki reklamları okurken burada bahsetmeyeceğim. Beni çileden çıkardı çünkü dinleyicilerin aradaki farkı anlayamayacaklarından endişelendim. Bu onay hakkında bana bir kuruş ödenmedi veya danışılmadı. Durması gerekiyordu ve durduğu için çok minnettardım.

Bu sorunları çözmek için en iyi zamanın, onu geri alamamamız öncesi olduğuna katılıyorum. Ben de şunu düşünüyorum:

Her teknoloji aracının bir “sonlandırma anahtarı” olmalıdır – buna sosyal medya da dahildir.

Bir düğmeye basabilmeli ve fikirlerimi manipüle etmek için tasarlanmış algoritmaları devre dışı bırakabilmeliyim. Bağımlılık yapmak ve reklamcılığı teşvik etmek için yeniden tasarlanmış algoritmalar. Sosyal medya bunun için benden ücret istiyorsa, öyle olsun. Takip ettiğim herkesi kronolojik veya ters kronolojik sırayla görme ve hem veri toplama hem de algoritmik önyargıdan vazgeçme hakkım olmalı.

Her teknolojik araç gençleri korumalıdır.

Çocuklarımızın pornografiye sınırsız erişimi onları öldürüyor.

Pornografik içerik çocuklara zarar verebilir. Genç yaşta pornografiye maruz kalmak, zihinsel sağlığın bozulmasına, cinsiyetçiliğe ve nesneleştirmeye, cinsel şiddete ve diğer olumsuz sonuçlara yol açabilir. Diğer risklerin yanı sıra, çocuklar taciz edici ve kadın düşmanı eylemleri tasvir eden pornografiyi görüntülediklerinde, bu tür davranışları normal ve kabul edilebilir olarak görmeye başlayabilirler.

“UNICEF”Çevrimiçi Zararlı İçerik“

Sosyal medyaya sınırsız erişimin ruh sağlıklarını da öldürdüğünü görmüyor muyuz? Algoritmik olarak bir neslin sonunu getiriyoruz ve kimse ayağa kalkıp teknoloji devlerini sorumlu tutmuyor.

Yani, şimdi bu insan grubunun insan ırkının geleceğini belirlemesine çocuklarımızdan daha çok kendi çıkarlarını koruyan davranışlar sergilemelerine izin mi vereceğiz?

Apple’ın bunca yıldır cihazlarına herhangi bir çocuk koruması eklediğini görmedim ve şimdi birdenbire Steve Wozniak insan ırkının geleceğiyle ilgilenmeye mi başladı? Umursamıyor demiyorum ama çok daha önce algoritmalara göre hareket etmemiz gerektiğini söylüyorum.

Zengin olman seni akıllı yapmaz.

Akıllı olman da seni akıllı yapmaz.

Ve ben kimim ki bunları söylüyorum? Ben sadece bir öğretmenim. Ancak kariyerimin son 21 yılı boyunca sınıflarımda, sahnelerde ve konferanslarda yaptığımız etik konuşmaların her zaman çok önemli olduğuna inandım ve bu benim blogum ve istediğimi yazabilirim.

Kim Ortaya Çıkacak?

Kongre’nin düzenleme gücüne sahip olabileceğine tamamen inanıyorum, düzenleme yapacak entelektüel veya ahlaki yapıya sahip değil.

Ayrıca, Silikon Vadisi’ni anlayacak entelektüel yeteneğe sahip olsa da, sosyal medyada salınan ve çocuklarımıza zarar veren bağımlılık yapan algoritmaların da gösterdiği gibi, teknoloji devlerinin çoğu ahlaktan büyük ölçüde yoksun olduklarını gösterdiler.

Bireysel bir insan olarak bilge, etik ve dürüst olmak her zamankinden daha önemli hale geliyor. Çocuklarımız, sohbet gpt’yi okuldan kaçan ücretsiz bir robot olarak görmeyi düşünmüyorlar, eğer öğrenemezlerse – ai’nin kesinlikle öyle olduğunu anlamıyor.

İşlerimizi kolaylaştıracak harika uygulamalar varken, yetişkinler sohbet gpt’ye kötü bir şey olarak bakmayı düşünüyor.

Tech, dolar işaretlerini görüyor – ya büyüyor ya da gidiyor – bunu garanti edebilirim.

Yapay zeka katlanarak öğreniyor olabilir ama şu anda biz insanlar kesinlikle değiliz.

Ve bu, dostlarım, sizin ve benim gibi sıradan bir milyon insanın beyin gücüne değecek bir problem. Gelecek nesli derinden önemseyen ve büyük teknolojinin hayatlarımız üzerindeki algoritmik kontrolünden bıkmış insanlar.

Daha önce de söylediğim gibi, AI için harika bir kullanım buluyorum. AI’ya karşı değilim.

Ancak, son yirmi yılda büyük teknolojide gördüğümüz davranışlardan daha fazlasına sahip değilim.

Ve bu soru, dostum, “Dürüst, etik, yardımcı yapay zeka ile nasıl ilerleyeceğiz??” gelecek nesiller için dünyayı etkileyen bu nesilde sorduğumuz en büyük teknoloji sorusu olabilir.

Okula kaçıyorum. Bu gönderide kasıtlı olarak AI kullanmadım – Grammarly bile. Bir yazım hatam olabilir. Bölünmüş bir mastar olabilir. Hatta – nefesim kesiliyor – yanlış yere virgül bile koyabilirim. Ama kesinlikle bunu kendi insani benliğim olarak yazdım ve bu sabah okula gitmeden ve yaşlılarla teknoloji algoritmalarına izin vererek yüzdüğümüz bir dünyada gelecekleri hakkında konuşmadan önce sizinle düşüncelerimi paylaşmakta tamamen sorun yok. Gerçekten önemli olan soruları sormak için duraksamadan bizi gidebileceğimiz yere götürün.