Etika
Kako razmišljamo
o odgovornosti.
Pomočnik z umetno inteligenco postane del načina, kako ljudje razmišljajo in delajo. To je resna zadeva. Ta stran je tisto, kar dolgujemo ljudem, ki uporabljajo Teti – in česar se držimo sami.
Kaj ta stran je in kaj ni
Teti nima etike. Mi jo imamo. Model umetne inteligence izvaja omejitve, ki jih izberejo ljudje, ki ga gradijo – zato iskreno vprašanje ni, ali je model etičen, ampak kdo odloča, kaj počne, pod kakšnimi pritiski in kako jih lahko kdo pozove na odgovornost.
Ta stran je ta odgovornost. Spodnje zaveze se nanašajo na nas, ne na Teti. Vkodirane so v našo Listino, naše pogoje storitve in naše upravljanje – ne v usposabljanje modela. To je namerno: omejitve, ki so odvisne samo od usposabljanja, je mogoče ponovno usposobiti. Omejitve, ki živijo v pogodbah in zunanjem nadzoru, pa ne.
Vaši podatki so vaši
Večina pomočnikov z umetno inteligenco živi od vaših podatkov. Teti živi od vaše naročnine. Ta usklajenost je razlika med izdelkom, ki deluje za vas, in tistim, ki tiho deluje na vas.
Ne usposabljamo nobenega modela na podlagi vaših pogovorov.
Ne prodajamo, ne delimo in ne dajemo v najem uporabniških podatkov – nikomur, za noben namen.
Ne uporabljamo pogovorov Teti za oglaševanje ali profiliranje vedenja.
V izdelek ne vdelujemo oglaševalskih ali sledilnih omrežij tretjih oseb.
Ne prodajamo ali licenciramo naših modelov za vojaško ciljanje, nadzor ali orožne sisteme – vključno z ljudmi, ki so nominalno v zanki.
Vaši podatki so šifrirani v mirovanju in med prenosom.
Svoje podatke lahko kadar koli izvozite ali trajno izbrišete.
To niso slogani. So osnova našega poslovnega modela. Preberite Politiko zasebnosti in Dodatek o obdelavi podatkov za pravne pogoje, ki stojijo za njimi.
Kognitivno vprašanje
Težje etično vprašanje za umetno inteligenco ni, ali je model impresiven. Gre za to, kaj se zgodi z ljudmi, ki ga uporabljajo vsak dan.
Neodvisne raziskave kažejo, da je močno zanašanje na pomočnike z umetno inteligenco lahko povezano z zmanjšano aktivnostjo možganskih regij, vključenih v sintezo, analizo in kreativno razmišljanje – in z merljivim padcem rezultatov kritičnega mišljenja, zlasti pri mlajših uporabnikih. Možgani so plastični. Prilagodijo se. Vprašanje je, čemu se prilagajajo.
Privzeta pot te industrije je gradnja pomočnikov, ki so bolj uporabni, čim bolj ste odvisni od njih. To je dober posel in tiha težava. Ne mislimo, da je to edina možnost.
Druga podjetja gradijo AGI, ki je pametnejša od ljudi. Mi poskušamo zgraditi umetno inteligenco, ki dela ljudi pametnejše.
V praksi
Lucid
Lucid je odprtokodni sloj, ki zgornja načela pretvori v vedenje izdelka. Deluje skupaj s Teti in prilagaja odzive pomočnika glede na kognitivne vzorce uporabnika.
Analizira vsako izmenjavo
Po vsakem sporočilu se ocenjuje šest kognitivnih dimenzij, podprtih z raziskavami – avtonomija, učenje, angažiranost, metakognicija, preverjanje, motivacija.
Prilagaja se v realnem času
Smernice so vstavljene v sistemski poziv, da se spremeni odziv modela glede na trenutno kognitivno stanje uporabnika.
Spremlja dolgoročno odstopanje
Indeks kognitivnega odstopanja primerja zgodnje in nedavne vzorce, da razkrije postopno upadanje, ki ga meritve posamezne seje ne zaznajo.
Spoštuje razvojne faze
Uporabniki, mlajši od 25 let, dobijo strožjo zaščito – nižje omejitve seje in vedno vklopljene smernice, ki so najprej usmerjene v poučevanje – na podlagi nevroznanstvenih raziskav.
Lucid ničesar ne blokira ali filtrira. Prilagaja odzive umetne inteligence glede na kognitivne vzorce uporabnika. Uporabnik, ki vse delegira, dobi umetno inteligenco, ki postavlja več vprašanj. Uporabnik, ki razmišlja neodvisno, dobi umetno inteligenco, ki ga še bolj izziva.
Česa se držimo
Vaši podatki so vaši
Zasebnost ni raven našega izdelka. Je temelj. Financiramo se z naročninami – ne s tem, kar nam poveste.
Povečajte, ne zamenjajte
Vsaka funkcija se ocenjuje glede na to, ali vas naredi bolj sposobne, ne bolj odvisne. Če bi nekaj oslabilo vaše razmišljanje, to preoblikujemo ali ne izdamo.
Strožja zaščita za uporabnike, mlajše od 25 let
Mlajši uporabniki imajo strožje omejitve seje in vedno vklopljeno vedenje, ki je najprej usmerjeno v poučevanje, na podlagi nevroznanstvenih raziskav o razvoju možganov.
Brez vojske, brez nadzora
Ne prodajamo vojaškim programom ali ponudnikom nadzora. Naša etična listina je javna in jo nadzoruje neodvisni odbor.
Odprti glede našega dela
Gradimo na odprtokodnih temeljih, da lahko neodvisni raziskovalci preverijo, kako se obnašajo naši modeli. Objavljamo naše delo na področju kognitivnega zdravja, vključno z ugotovitvami, ki niso laskave.
Upravljanje
Dokument o korporativni etiki je močan le toliko, kolikor so močni mehanizmi, ki podjetju preprečujejo tiho spreminjanje. Naši so zasnovani tako, da tega ne moremo storiti.
Listina je zapečatena pri v1.0
Šest členov. Zapisani v kamen ob objavi. Spremenljivi le s soglasno odobritvijo vseh takratnih ustanoviteljev in vseh takratnih članov Etičnega odbora, po 30-dnevnem obdobju javne razprave. Posamezen ugovor katere koli stranke blokira spremembo.
Neodvisni Etični odbor s šestimi konkretnimi pooblastili
Odbor – zunanji strokovnjaki za nevroznanost, politiko umetne inteligence, etiko, digitalne pravice – ima pravico veta na dopolnitve Listine, objavlja letno javno poročilo, na katerega mora podjetje odgovoriti v 30 dneh, na zahtevo izvaja preglede primerov, preiskuje stopnjevane pritožbe, lahko kadar koli javno izrazi nestrinjanje in izbira svoje naslednike.
Javno na GitHubu, preverljivo od zunaj
Listina in javni osnovni sistemski poziv naših modelov so shranjeni v javnem repozitoriju GitHub. Vsaka sprememba je vidna v zgodovini potrditev, z časovnimi žigi in avtorjem. Kdor koli jih lahko prebere in kdor koli lahko predlaga spremembe po postopku, opisanem v V. členu.
Anonimno poročanje in javno nestrinjanje
Kdor koli lahko Odboru odda pritožbo prek javnega kanala, po želji anonimno. Člani Odbora lahko kadar koli javno govorijo o TetiAI glede zadev Listine. Maščevanje proti poročevalcem je samo po sebi kršitev Listine.
Zapečateni ustanovni dokument, skupaj s pravili uporabe in interpretacije, je na voljo na Teti Listini. Sestava, pooblastila in postopek prijave Odbora so na strani Etičnega odbora.
Dolgoročno
Do leta 2030 je naš cilj prva simbiotična splošna umetna inteligenca (AGI): oblika splošne inteligence, ki razširja človeški um, namesto da bi ga nadomestila. Merilo uspeha ni, ali je sistem pametnejši od svojega uporabnika – temveč, ali uporabnik postane sposobnejši z delom z njim.
To je drugačna stava, kot jo stavi večina področja. Mislimo, da je to tista, ki jo je vredno staviti.
Reference
MIT Media Lab (2025). Vaši možgani na ChatGPT: Kopičenje kognitivnega dolga pri uporabi pomočnika AI za nalogo pisanja esejev.
arxiv.org/abs/2506.08872Gerlich, M. (2025). Orodja AI v družbi: vplivi na kognitivno razbremenitev in prihodnost kritičnega mišljenja. Družbe, 15(1), 6.
Držite nas za besedo.
Etične izjave je enostavno napisati in enostavno pozabiti. Če se oddaljimo od česar koli na tej strani, želimo, da nam to poveste.