हम कैसे सोचते हैं
जिम्मेदारी के बारे में।

Teti में नैतिकता नहीं है। हममें है। एक AI मॉडल उन बाधाओं को निष्पादित करता है जिन्हें इसे बनाने वाले लोग चुनते हैं — इसलिए ईमानदार सवाल यह नहीं है कि मॉडल नैतिक है या नहीं, बल्कि यह है कि कौन तय करता है कि यह क्या करता है, किन दबावों में, और कोई भी उन्हें कैसे जवाबदेह ठहरा सकता है।

यह पृष्ठ वही जवाबदेही है। नीचे दी गई प्रतिबद्धताएँ हमारे बारे में हैं, Teti के बारे में नहीं। वे हमारे चार्टर, हमारी सेवा की शर्तों और हमारे शासन में एन्कोड की गई हैं — मॉडल के प्रशिक्षण में नहीं। यह जानबूझकर है: केवल प्रशिक्षण पर निर्भर रहने वाली बाधाओं को फिर से प्रशिक्षित किया जा सकता है। अनुबंधों और बाहरी निगरानी में रहने वाली बाधाओं को नहीं।

एआई के लिए कठिन नैतिक प्रश्न यह नहीं है कि मॉडल प्रभावशाली है या नहीं। यह है कि जो लोग इसका हर दिन उपयोग करते हैं, उनके साथ क्या होता है।

स्वतंत्र शोध से पता चलता है कि एआई सहायकों पर अत्यधिक निर्भरता संश्लेषण, विश्लेषण और रचनात्मक विचार में शामिल मस्तिष्क क्षेत्रों की कम व्यस्तता से संबंधित हो सकती है - और महत्वपूर्ण सोच स्कोर में मापने योग्य गिरावट के साथ, विशेष रूप से युवा उपयोगकर्ताओं में। मस्तिष्क प्लास्टिक होते हैं। वे अनुकूलन करते हैं। सवाल यह है कि वे किस चीज के अनुकूलन कर रहे हैं।

इस उद्योग का डिफ़ॉल्ट प्रक्षेपवक्र ऐसे सहायक बनाना है जो जितना अधिक आप उन पर निर्भर करते हैं, उतना ही अधिक उपयोगी होते जाते हैं। यह एक अच्छा व्यवसाय और एक शांत समस्या है। हमें नहीं लगता कि यह एकमात्र विकल्प है।

अन्य कंपनियां एजीआई का निर्माण कर रही हैं जो मनुष्यों से अधिक स्मार्ट है। हम एआई बनाने की कोशिश कर रहे हैं जो मनुष्यों को अधिक स्मार्ट बनाता है।

2030 तक हमारा लक्ष्य पहला सहजीवी एजीआई है: सामान्य बुद्धिमत्ता का एक रूप जो मानव मन को बदलने के बजाय उसका विस्तार करता है। सफलता का पैमाना यह नहीं है कि सिस्टम अपने उपयोगकर्ता से अधिक स्मार्ट है या नहीं - यह है कि क्या उपयोगकर्ता इसके साथ काम करने से अधिक सक्षम हो जाता है।

यह उस शर्त से अलग है जो अधिकांश क्षेत्र लगा रहे हैं। हमें लगता है कि यह वह शर्त है जिसे लगाना उचित है।