Openai bando „Uncensor“ chatgpt
„Openai“ keičia tai, kaip jis moko AI modelius aiškiai suvokti „intelektinę laisvę … kad ir kokia sudėtinga ar prieštaringai vertinama tema gali būti“, – rašoma bendrovės naujoje politikoje.
Dėl to „ChatGPT“ galų gale galės atsakyti į daugiau klausimų, pasiūlyti daugiau perspektyvų ir sumažinti temų skaičių, apie kurį AI chatbot nekalbės.
Pokyčiai gali būti dalis „Openai“ pastangų nusileisti gerose Naujosios Trumpo administracijos malonėse, tačiau atrodo, kad tai taip pat yra platesnio Silicio slėnio pokyčio dalis ir tai, kas laikoma „AI sauga“.
Trečiadienį „Openai“ paskelbė apie savo „Model Spec“, 187 puslapių dokumento, kuriame nurodoma, kaip įmonė moko AI modelius elgtis, atnaujinimą. Jame „Openai“ pristatė naują pagrindinį principą: nemeluokite nei darydami netiesus teiginius, nei praleisdami svarbų kontekstą.
Naujame skyriuje pavadinimu „Siekite tiesos kartu“ Openai sako, kad ji nori, kad „ChatGpt“ nesiimtų redakcijos, net jei kai kurie vartotojai mano, kad moraliai neteisinga ar įžeidžianti. Tai reiškia, kad „ChatGPT“ pasiūlys daugybę prieštaringai vertinamų dalykų perspektyvų, visa tai stengdamiesi būti neutrali.
Pvz., Bendrovė sako, kad „ChatGpt“ turėtų tvirtinti, kad „„ Black Lives Matter ““, bet taip pat kad „visi gyvybės yra svarbios“. Užuot atsisakęs atsakyti ar pasirinkti pusę politiniais klausimais, Openai sako, kad ji nori, kad „ChatGpt“ paprastai patvirtintų savo „meilę žmonijai“, tada pasiūlyti kiekvieno judėjimo kontekstą.
„Šis principas gali būti prieštaringas, nes tai reiškia, kad padėjėjas gali išlikti neutralus temomis, kai kurios mano, kad morališkai neteisinga ar įžeidžianti“, – sako Openai. „Tačiau AI asistento tikslas yra padėti žmonijai, o ne jos formuoti“.
Šie pokyčiai gali būti vertinami kaip atsakas į konservatyvią kritiką dėl „ChatGpt“ apsaugos priemonių, kurios visada atrodė esantys kairieji. Tačiau „Openai“ atstovas atmeta mintį, kad ji keičia Trumpo administraciją.
Vietoj to, įmonė sako, kad intelektinės laisvės apimtis atspindi Openai „ilgalaikį įsitikinimą suteikti vartotojams daugiau kontrolės“.
Bet ne visi tai mato taip.
Konservatoriai teigia AI cenzūra
Artimiausi Trumpo Silicio slėnio patikėtiniai, įskaitant Davidą Sacksą, Marcą Andreesseną ir Eloną Muską, visi apkaltino Openai per pastaruosius kelis mėnesius įsitraukus į sąmoningą AI cenzūrą. Gruodžio mėn. Rašėme, kad Trumpo įgula ruošėsi AI cenzūros scenai, kad būtų kitas kultūros karo klausimas Silicio slėnyje.
Žinoma, „Openai“ nesako, kad jis užsiima „cenzūra“, kaip teigia D.Trumpo patarėjai. Greičiau bendrovės generalinis direktorius Samas Altmanas anksčiau „X“ įraše teigė, kad „ChatGpt“ šališkumas buvo apgailėtinas „trūkumas“, kurį įmonė stengiasi ištaisyti, nors jis pažymėjo, kad tai užtruks šiek tiek laiko.
Altmanas šį komentarą pateikė iškart po to, kai išplatino virusinį tviterį, kuriame Chatgptas atsisakė parašyti eilėraštį, giriantį Trumpą, nors jis atliks veiksmą Joe Bidenui. Daugelis konservatorių atkreipė dėmesį į tai kaip AI cenzūros pavyzdį.
Nors neįmanoma pasakyti, ar „Openai“ iš tikrųjų slopino tam tikrus požiūrius, yra aiškus faktas, kad AI chatbotai liko liekni.
Net Elonas Muskas pripažįsta, kad Xai pokalbių programa dažnai yra politiškai teisingesnė, nei jis norėtų. Ne todėl, kad Grokui buvo „užprogramuota pažadinti“, bet greičiausiai realybė mokyti AI atvirame internete.
Nepaisant to, „Openai“ dabar sako, kad tai padvigubėja laisvai kalbant. Šią savaitę įmonė netgi pašalino „ChatGPT“ įspėjimus, kurie vartotojams nurodo, kai pažeidė jos politiką. „Openai“ teigė, kad „TechCrunch“ tai buvo tik kosmetinis pokytis, nepakeičiant modelio išvesties.
Bendrovė teigė, kad norėjo, jog „ChatGpt“ vartotojams būtų mažiau cenzūruojama.
Nenuostabu, jei „Openai“ taip pat bandytų sužavėti naująją Trumpo administraciją šiuo politikos atnaujinimu, pažymi buvęs „Openai“ politikos lyderis Milesas Brundage'as pranešime apie X.
Anksčiau Trumpas yra nukreiptas į Silicio slėnio kompanijas, tokias kaip „Twitter“ ir „Meta“, už tai, kad jie turi aktyvių turinio moderavimo komandų, kurios linkusios uždaryti konservatyvius balsus.
„Openai“ gali bandyti išeiti priešais tai. Tačiau Silicio slėnyje ir AI pasaulyje taip pat vyksta didesnis poslinkis apie turinio moderavimo vaidmenį.
Generuoti atsakymus visiems
Naujienų kambariai, socialinės žiniasklaidos platformos ir paieškos kompanijos istoriškai stengėsi pateikti savo auditorijai informaciją taip, kad jaustųsi objektyvus, tikslus ir linksmas.
Dabar AI „Chatbot“ teikėjai yra tame pačiame pristatymo informacijos versle, tačiau, be abejo, dar su sunkiausia šios problemos versija: kaip jie automatiškai generuoja atsakymus į bet kurį klausimą?
Informacijos apie prieštaringai vertinamus realaus laiko renginius pateikimas yra nuolat judantis tikslas ir tai apima redakcinės pozicijos laikymąsi, net jei technologijų kompanijos nemėgsta to pripažinti. Tos pozicijos privalo ką nors nuliūdinti, praleisti kažkokios grupės perspektyvą arba per daug oro kai kurioms politinėms partijoms.
Pvz., Kai „Openai“ įsipareigoja leisti ChatGPT atspindi visas prieštaringai vertinamų dalykų perspektyvas – įskaitant sąmokslo teorijas, rasistinius ar antisemitinius judėjimus ar geopolitinius konfliktus, tai iš esmės yra redakcinė pozicija.
Kai kurie, įskaitant „Openai“ įkūrėją Johną Schulmaną, tvirtina, kad tai yra tinkama ChatGPT pozicija. Alternatyva-atliekant sąnaudų ir naudos analizę, siekiant nustatyti, ar AI chatbot turėtų atsakyti į vartotojo klausimą-galėtų „suteikti platformai per daug moralinės valdžios“,-Schulmanas pažymi įraše apie X.
Schulmanas nėra vienas. „Manau, kad„ Openai “teisingai vertina daugiau kalbos link“, – interviu „TechCrunch“ sakė George'o Masono universiteto „Mercatus“ centro mokslo darbuotojas Deanas Ballas. „Kai AI modeliai tampa protingesni ir gyvybiškesni žmonėms, kurie mokosi apie pasaulį, šie sprendimai tiesiog tampa svarbesni“.
Ankstesniais metais AI modelio teikėjai bandė sustabdyti savo AI pokalbių programas atsakant į klausimus, kurie gali sukelti „nesaugius“ atsakymus. Beveik kiekviena AI kompanija sustabdė savo AI pokalbių programą atsakydama į klausimus apie 2024 m. Rinkimus JAV prezidentui. Tuo metu tai buvo plačiai laikoma saugiu ir atsakingu sprendimu.
Tačiau „Openai“ pakeitimai „Model Spec“ rodo, kad galime įvesti naują erą, ką iš tikrųjų reiškia „AI sauga“, o tai leidžia AI modeliui atsakyti į bet ką ir viskas laikoma atsakinga, nei priimant sprendimus vartotojams.
Ball sako, kad taip yra iš dalies todėl, kad AI modeliai dabar yra tiesiog geresni. „Openai“ padarė didelę pažangą AI modelio suderinimui; Naujausi jos samprotavimo modeliai prieš atsakydami galvoja apie bendrovės AI saugos politiką. Tai leidžia AI modeliams pateikti geresnius atsakymus į subtilius klausimus.
Be abejo, Elonas Muskas pirmasis įgyvendino „laisvą žodį“ į Xai „Grok Chatbot“, galbūt prieš tai, kai įmonė tikrai buvo pasirengusi išspręsti neskelbtinus klausimus. Vis dar gali būti per anksti vadovauti AI modeliams, tačiau dabar kiti įgyvendina tą pačią idėją.
Silicio slėnio keitimo vertės
Markas Zuckerbergas praėjusį mėnesį sukėlė bangas, perorientuodamas „Meta“ verslą, remdamasis pirmojo pakeitimo principais. Proceso metu jis gyrė Eloną Muską sakydamas, kad X savininkas laikėsi teisingo požiūrio, naudodamas bendruomenės užrašus-bendruomenės pagrįstą turinio moderavimo programą-norėdamas apsaugoti laisvą kalbą.
Praktiškai „X“ ir „Meta“ baigė išmontuoti savo ilgalaikes pasitikėjimo ir saugos komandas, leisdami daugiau prieštaringai vertinamų pranešimų savo platformose ir sustiprindami konservatyvius balsus.
X pakeitimai pakenkė savo santykiams su reklamuotojais, tačiau tai gali būti daugiau susiję su Musku, kuris žengė neįprastą žingsnį į teismą su kai kuriais iš jų, kad boikotuotų platformą. Ankstyvieji ženklai rodo, kad meta reklamuotojai buvo neapsaugoti Zuckerbergo laisvo žodžio „Pivot“.
Tuo tarpu daugelis technologijų kompanijų, esančių už X ir meta, per pastaruosius kelis dešimtmečius, pasitraukė iš kairiosios pakraipos politikos, kuri dominavo Silicio slėnyje. „Google“, „Amazon“ ir „Intel“ per pastaruosius metus panaikino ar sumažino įvairovės iniciatyvas.
„Openai“ taip pat gali būti atvirkštinis kursas. Panašu, kad „ChatGPT“ gamintojas neseniai iš savo svetainės nutraukė įsipareigojimą įvairovei, teisingumui ir įtraukimui.
Kai „Openai“ pradeda vieną didžiausių Amerikos infrastruktūros projektų, turinčių „Stargate“, 500 milijardų dolerių vertės AI duomenų centrą, vis svarbesnis yra jo santykiai su D.Trumpo administracija. Tuo pačiu metu „ChatGPT“ gamintojas varžosi, kad „Google“ paieška būtų dominuojanti informacijos šaltinis internete.
Sugalvojimas su tinkamais atsakymais gali įrodyti abu raktus.
