윤리
우리가 책임에 대해
생각하는 방식.
AI 비서는 사람들이 생각하고 일하는 방식의 일부가 됩니다. 이것은 심각한 문제입니다. 이 페이지는 Teti를 사용하는 사람들에게 우리가 빚진 것이자, 우리 스스로에게 지키는 약속입니다.
이 페이지가 무엇이며, 무엇이 아닌지
Teti는 윤리를 가지고 있지 않습니다. 우리는 가지고 있습니다. AI 모델은 그것을 만드는 사람들이 선택한 제약을 실행합니다. 따라서 정직한 질문은 모델이 윤리적인지 여부가 아니라, 누가 어떤 압력 하에서 무엇을 할지 결정하고, 어떻게 그들에게 책임을 물을 수 있는지입니다.
이 페이지는 그 책임에 대한 것입니다. 아래의 약속들은 Teti에 대한 것이 아니라 우리에 대한 것입니다. 이 약속들은 우리의 헌장, 서비스 약관 및 거버넌스에 명시되어 있으며, 모델의 훈련에는 포함되어 있지 않습니다. 이는 의도적인 것입니다. 훈련에만 의존하는 제약은 재훈련될 수 있습니다. 계약 및 외부 감독에 존재하는 제약은 그렇지 않습니다.
귀하의 데이터는 귀하의 것입니다
대부분의 AI 비서는 귀하의 데이터로 운영됩니다. Teti는 귀하의 구독으로 운영됩니다. 이러한 정렬은 귀하를 위해 작동하는 제품과 조용히 귀하에게 작동하는 제품의 차이입니다.
저희는 귀하의 대화로 어떤 모델도 훈련하지 않습니다.
저희는 사용자 데이터를 누구에게도, 어떤 목적으로도 판매, 공유 또는 임대하지 않습니다.
저희는 Teti 대화를 광고 또는 행동 프로파일링에 사용하지 않습니다.
저희는 제품에 제3자 광고 또는 추적 네트워크를 삽입하지 않습니다.
저희는 군사 표적, 감시 또는 무기 시스템에 모델을 판매하거나 라이선스를 부여하지 않습니다. 여기에는 명목상 인간이 개입하는 경우도 포함됩니다.
귀하의 데이터는 저장 중 및 전송 중에 암호화됩니다.
귀하는 언제든지 데이터를 내보내거나 영구적으로 삭제할 수 있습니다.
이것은 슬로건이 아닙니다. 이것은 저희 비즈니스 모델의 기반입니다. 이에 대한 법적 조항은 개인정보처리방침 및 데이터 처리자 추가 계약을 참조하십시오.
인지적 질문
AI에 대한 더 어려운 윤리적 질문은 모델이 인상적인지 여부가 아닙니다. 그것은 매일 사용하는 사람들에게 어떤 일이 일어나는가입니다.
독립적인 연구에 따르면 AI 비서에 대한 과도한 의존은 종합, 분석 및 창의적 사고에 관여하는 뇌 영역의 참여 감소와 관련이 있으며, 특히 젊은 사용자에게서 비판적 사고 점수의 측정 가능한 하락과 관련이 있습니다. 뇌는 가소성이 있습니다. 적응합니다. 문제는 무엇에 적응하는가입니다.
이 산업의 기본 궤적은 의존할수록 더 유용해지는 비서를 만드는 것입니다. 그것은 좋은 사업이자 조용한 문제입니다. 저희는 그것이 유일한 선택이라고 생각하지 않습니다.
다른 회사들은 인간보다 더 똑똑한 AGI를 만들고 있습니다. 저희는 인간을 더 똑똑하게 만드는 AI를 만들려고 노력하고 있습니다.
실제로
Lucid
Lucid는 위 원칙들을 제품 동작으로 전환하는 오픈 소스 레이어입니다. Teti와 함께 실행되며 사용자의 인지 패턴에 따라 어시스턴트의 응답 방식을 조정합니다.
모든 교환 분석
각 메시지 후 자율성, 학습, 참여, 메타인지, 검증, 동기 부여 등 6가지 연구 기반 인지 차원이 점수화됩니다.
실시간 적응
사용자의 현재 인지 상태에 따라 모델의 응답 방식을 변경하기 위해 시스템 프롬프트에 지침이 주입됩니다.
장기적인 변화 추적
인지 변화 지수(Cognitive Drift Index)는 초기 패턴과 최근 패턴을 비교하여 단일 세션 측정으로는 놓칠 수 있는 점진적인 감소를 파악합니다.
발달 단계 존중
25세 미만 사용자는 신경과학 연구에 기반하여 더 엄격한 보호(낮은 세션 제한 및 항상 켜져 있는 교육 우선 지침)를 받습니다.
Lucid는 어떤 것도 차단하거나 필터링하지 않습니다. 사용자 인지 패턴에 따라 AI의 응답 방식을 조정합니다. 모든 것을 위임하는 사용자는 더 많은 질문을 하는 AI를 얻고, 독립적으로 생각하는 사용자는 더 도전적인 AI를 얻습니다.
우리가 지키는 원칙
귀하의 데이터는 귀하의 것입니다
개인 정보 보호는 우리 제품의 계층이 아닙니다. 그것은 기반입니다. 우리는 귀하가 우리에게 말하는 것이 아니라 구독을 통해 자금을 조달합니다.
대체하지 않고 증강합니다
모든 기능은 귀하를 더 의존적으로 만드는지 여부가 아니라 더 유능하게 만드는지 여부로 판단됩니다. 귀하의 사고를 약화시킬 수 있는 것이 있다면, 우리는 그것을 재설계하거나 출시하지 않습니다.
25세 미만 사용자를 위한 엄격한 보호
어린 사용자는 뇌 발달에 대한 신경과학 연구를 기반으로 더 엄격한 세션 제한과 항상 켜져 있는 교육 우선 행동을 받습니다.
군사, 감시 없음
저희는 군사 프로그램이나 감시 업체에 판매하지 않습니다. 저희의 윤리 헌장은 공개되어 있으며 독립적인 위원회의 감독을 받습니다.
업무 방식에 대한 투명성
저희는 오픈 소스 기반 위에 구축하여 독립적인 연구자들이 저희 모델의 동작 방식을 검증할 수 있도록 합니다. 저희는 인지 건강 관련 연구 결과를 발표하며, 여기에는 좋지 않은 결과도 포함됩니다.
거버넌스
기업 윤리 문서는 회사가 조용히 수정하는 것을 막는 메커니즘만큼 강력합니다. 저희의 메커니즘은 저희가 그렇게 할 수 없도록 설계되었습니다.
헌장은 v1.0으로 봉인됩니다
6개 조항. 발행 시 확정됩니다. 30일간의 공개 의견 수렴 기간을 거친 후, 당시 재직 중인 모든 설립자와 윤리 위원회 모든 재직 위원들의 만장일치 동의가 있어야만 수정할 수 있습니다. 어느 한쪽이라도 반대하면 수정은 차단됩니다.
6가지 구체적인 권한을 가진 독립적인 윤리 위원회
신경과학, AI 정책, 윤리, 디지털 권리 분야의 외부 전문가들로 구성된 위원회는 헌장 보충에 대한 거부권을 가지며, 회사가 30일 이내에 답변해야 하는 연례 공개 보고서를 발행하고, 요청 시 사례 검토를 수행하며, 에스컬레이션된 불만을 조사하고, 언제든지 공개적으로 반대할 수 있으며, 자체 후임자를 선정합니다.
GitHub에 공개되어 외부에서 검증 가능
저희 모델의 헌장과 공개 기본 시스템 프롬프트는 공개 GitHub 저장소에 있습니다. 모든 수정 사항은 타임스탬프 및 작성자와 함께 커밋 기록에 표시됩니다. 누구나 이를 읽을 수 있으며, 누구나 제5조에 설명된 절차를 통해 변경을 제안할 수 있습니다.
익명 보고 및 공개 반대
누구나 공개 채널을 통해 위원회에 불만을 제기할 수 있으며, 원하는 경우 익명으로도 가능합니다. 위원회 위원들은 헌장 문제에 대해 언제든지 TetiAI에 대해 공개적으로 발언할 수 있습니다. 보고자에 대한 보복은 그 자체가 헌장 위반입니다.
봉인된 창립 문서와 적용 및 해석 규칙은 Teti 헌장에 있습니다. 위원회의 구성, 권한 및 신청 절차는 윤리 위원회 페이지에 있습니다.
장기적인 목표
2030년까지 저희의 목표는 최초의 공생적 AGI입니다. 이는 인간의 마음을 대체하기보다는 확장하는 형태의 일반 지능입니다. 성공의 척도는 시스템이 사용자보다 더 똑똑한지 여부가 아니라, 사용자가 시스템과 함께 작업함으로써 더 유능해지는지 여부입니다.
이는 대부분의 분야에서 시도하는 것과는 다른 시도입니다. 저희는 이것이 시도할 가치가 있는 시도라고 생각합니다.
참고 자료
MIT 미디어 랩 (2025). ChatGPT를 사용한 당신의 뇌: 에세이 작성 작업에 AI 비서를 사용할 때 인지 부채의 축적.
arxiv.org/abs/2506.08872Gerlich, M. (2025). 사회에서의 AI 도구: 인지 오프로딩 및 비판적 사고의 미래에 미치는 영향. Societies, 15(1), 6.