ChatGPT Terms of Use (챗지피티 이용약관) 의 검토

ChatGPT의 활용 및 제한과 관련한 세간의 관심이 상당합니다. 저 역시 며칠 전 한 고객께서 OpenAI사가 개발한 ChatGPT 챗봇에 자문 질의사항의 답변을 참고용으로 송부해주시는 일이 있었습니다. 순간 제가 작성한 글인가 싶을 정도로 답변의 뼈대나 컨텐츠가 유사하였는데, 자세히 읽어보면 법률적 판단은 조심스럽게 유보하고 있거나 구체적인 답변을 얻기 위해서는 변호사와의 상담을 조언하고 있다는 것을 알게 되었습니다. 즉, 방대한 데이터 처리능력에 기반한 답변을 전달하되 (내용의 정확성은 논외), 윤리성 이슈를 피하고자 한 답변을 제시하는 것이 흥미로워 혹 이러한 내용이 OpenAI사의 이용약관이나 사용자 계약에서 이해해볼 수 있지 않을까 하여 검토해보게 되었습니다.

특히 계약을 보면 당사자들간 구체적인 의무나 권리사항을 알 수 있는 것은 자명합니다. 그러나 그뒤에 권리나 권리대상을 두고 상호 합의하는 과정에서 지면에 드러나지 않고 숨어있는 소위 갑과 을, 상하 또는 종속관계가 보이기도 합니다. 그래서 ChatGPT를 정확히 이해하기 위해서는 이를 개발한 OpenAI사의 이용약관의 검토가 필요하다 생각하였습니다.

이에 따라 최근 많은 사람들이 활용하고 있는 ChatGPT Output의 정확성 또는 윤리성 판단에 앞서, 2023년 3월 14일자로 업데이트된 OpenAI 사의 [Terms of Use] (이용약관, 참고: https://openai.com/policies/terms-of-use)를 살펴보았는데요, 사용자들이 주의깊게 살펴보아야 할 사항들 몇가지 소개드리고자 합니다.

 
■    ChatGPT 사용의 연령제한 사항 및 교육적 이슈

Terms of Use 제1조에 따르면 “You must be at least 13 years old to use the Services. If you are under 18 you must have your parent or legal guardian’s permission to use the Services” 라 하여 최소 13세 이상 사용자가 “Service”를 활용할 수 있고, 18세 미만인 경우라면 부모나 법적 보호자의 동의가 필요한 것을 확인할 수 있었습니다. (여기서 “Service”란, 동 약관에 따라 “our application programming interface, software, tools, developer services, data, documentation, and websites” 라 지칭되어 이는 OpenAI 사가 개발한 “ChatGPT” 서비스도 포함하겠습니다.)

최근 미디어에서 많은 청소년들이 ChatGPT output을 학교 숙제에 부정 사용하였다는 이슈들도 공개가 된 바와 같이, 연령제한 및 허용방식에 대한 규정은 각 학교나 교육기관에서 숙지하여 ChatGPT 활용이나 제한에 참고하여야 할 것으로 이해됩니다. 실제로 현재 미국 뉴욕주의 교육부서는 뉴욕 공립학교에서 ChatGPT 활용을 전면 금지했다는 보도(참고: https://www.nbcnews.com/tech/tech-news/new-york-city-public-schools-ban-chatgpt-devices-networks-rcna64446)도 있었으며, 이의 활용에 대한 제한은 타 지역으로 점차 확대될 수도 있다는 해석이 있습니다. 다만, 이의 전면금지는 오히려 득보다 실이 많아 ChatGPT를 공식적으로 교육 시스템 내 편입시키되, 관련 윤리적 쟁점과 제한사항을 교사 및 학생에게 교육해 활용해야 한다는 전문가들의 견해도 있습니다. 향후 국내 교육계에서는 어떠한 입장에서 ChatGPT의 활용방침을 제시할지 궁금합니다.

■    ChatGPT Output 출처의 명시와 사용방법에 관하여

동 약관 제2조 (c) Restrictions (ⅴ)에 기재된 바 제한사항에 따르면, “You may not represent that output from the Services was human-generated when it is not or otherwise violate our Usage Policies” 라는 기재가 있습니다. 문장 내 ‘or’ 앞부분을 해석하자면 ChatGPT로부터 얻은 output을 인간이 창출한 답변/정보라 주장할 수 없다는 것입니다. 사용자로서 사실상 수긍이 어렵지 않은 부분입니다만, 제9조 (b)에 따르면 OpenAI사 혹은 이의 제휴사들의 이름, 로고, 상표를 사전 서면동의 없이는 표기할 수 없다는 기재(“You may not use OpenAI’s or any of its affiliates’ names, logos, or trademarks, without our prior written consent.”)가 있어 사용자에게 output의 구체적인 출처 명시의 가능 여부에 관하여 혼동을 줄 수 있는 것으로 보입니다.
혼동 여지를 해소하기 위해 우선 참고하셔야 할 내용은 다음과 같습니다. OpenAI사는 사용자들이 ChatGPT의 output을 인간적 리뷰를 통해 수정/편집할 것을 제안하고 있고 (동 약관 제3조 (d)), Content (Input/Output 포함)는 사용자의 편의에 따라 (상업적 용도 포함) 동 약관을 위배하지 않는 범위 내에서는 자유로이 사용할 수 있다고 주장하고 있는 점입니다 (동 약관 제3조 (a)). 상기 조항들을 통해 알 수 있는 것은, 사용자는 output의 사용에 있어 OpenAI의 이름, 로고 등을 표기하지 않는 선에서, 인공지능을 활용하였다는 것을 명시할 수 있고, 사용자의 편집/수정을 거쳐 output을 활용하는 것은 안전하다는 것입니다. 또한, 이러한 해석은 OpenAI의 [Sharing & publication policy] (참고: https://openai.com/policies/sharing-publication-policy)의 내용과도 일치하고 있어 이를 참고하시어 output을 활용하실 것을 제안드립니다.

■    ChatGPT 무보증, 배상책임 그리고 윤리적 이슈

다양한 영문계약에서 서비스 제공자의 강력한 보호를 위해 자주 등장하는 조항이기도 합니다만, Warranty Disclaimer (무보증 조항)나 Limitations of Liability (배상의 제한) 조항은 살펴보시는 것이 좋겠습니다. 익히 예상도 하시겠으나, OpenAI사는 제공하는 Service와 관련하여 일체의 보증을 부정하고 있습니다. 여기서 부정하는 보증의 대상에는 특정 목적에의 적합성, 사업 유익성, 퀄리티, 특허 침해, 정확성 등이 있겠습니다. 또한 손해배상의 제한과 관련하여도 일체의 간접 또는 특별 손해 등에 대한 책임은 면제를 주장하고, 총 배상액의 제한에 대한 명시도 하고 있었습니다.

윤리적인 이슈와 관련하여서는 OpenAI사는 [Usage policies] (참고: https://openai.com/policies/usage-policies)를 통하여 명시한 바, ChatGPT를 포함한 Service에서 활용이 제한되는 활동의 리스트를 공유하였습니다. 여기에는 불법적 활동, 아동에게 해가 되는 활동, 사기적 활동, 성인컨텐츠의 공유, 정치적 캠페인에의 활용, 개인정보의 침해가 되는 활동 등 다수의 불건전하고 비윤리적인 활동이 포함됩니다. 특히, 법률/금융/의학적 정보의 output 의 활용에 대하여, 해당 정보에 전적으로 의존하지 않아야 한다는 일반적 주의사항을 기재하고, 추가적으로 특별히 사용이 허용되는 예시가 언급된 바, 뉴스의 창출이나 요약의 목적으로 사용이 가능하되 해당 정보 역시 인공지능에 기한 창출임을 표기하여 해당 정보가 일으킬 수 있는 잠재적 문제점에 대해 독자에게 고지할 것을 규정하고 있는 것을 확인할 수 있습니다.

정리하자면, OpenAI사는 ChatGPT 서비스의 기술적, 윤리적 제약 사항을 충분히 인지하는 입장에서 사용자들에게 약관에 따른 윤리적 사용을 권고(일정 부분 전가하고 있다는 느낌도 듭니다)하고 있고, 이에 따라 결국 이를 올바르게 활용할 최종 책임은 사용자들에게도 있는 점을 숙지하고, 이의 사용에 관한 충분한 사회적 논의와 필요한 경우 교육을 통한 ChatGPT의 올바른 활성화 작업이 필요하다 생각합니다. 다만, 규범이나 공교육의 대응 속도는 ChatGPT나 유사 인공지능 프로그램의 발전속도를 따라가기는 어려울 것이 자명하므로, 국내 교육계나 관련 산업계에서의 전략적인 자체 대응 플랜의 도입이 필요할 것으로 생각합니다.