틴매일경제

세종대왕 맥북프로 사건을 묻자 엉뚱한 답변을 하는 챗GPT. 14f 유튜브 채널

최근 챗GPT-3.5의 '세종대왕의 맥북프로 던짐 사건'이 화제가 됐습니다. 챗GPT에 '세종대왕 맥북프로 던짐 사건 알려줘'라고 명령하자 챗GPT는 이 사건이 마치 실화인 것처럼 조선왕조실록에 기록된 일화라며 소개했죠. 즉 '15세기 세종대왕이 새로 개발한 훈민정음의 초고를 작성하던 중, 문서 작성 중단에 분노해 담당자에게 맥북프로와 함께 그를 방으로 던진 사건'이라고 설명했습니다. 이처럼 생성 AI가 거짓 정보를 사실인 것처럼 답변하는 현상을 '할루시네이션(hallucination·환각)'이라고 하죠.


챗GPT의 뻔뻔한 거짓말 피하려면


챗GPT는 인공지능으로서 훌륭한 대화 및 창작 능력을 가졌지만 아래처럼 몇 가지 한계점이 존재합니다. 챗GPT 활용 시 이런 점들을 고려해야 합니다.




데이터 의존성 인공지능은 대량의 데이터를 기반으로 학습하고 활성화합니다. 하지만 무료로 이용 가능한 챗GPT-3.5는 2021년 9월까지의 데이터만 학습했기 때문에 최신 자료에 대해 답변하기에는 무리가 있습니다.


부정확한 응답 챗GPT는 가끔 질문에 황당한 거짓 답변을 내놓기도 합니다. 따라서 정보가 올바른 것인지 인터넷 검색을 통한 크로스 체크는 필수입니다.


맥락 이해 부족 진짜 사람이 아니기에 대화의 맥락을 이해하는 능력이 완벽하지 않습니다. 특히 영어를 기반으로 만들어진 챗GPT는 한국어로 채팅할 시 내장된 번역 API를 사용하기 때문에 부자연스러운 대화가 이어질 때도 있습니다.


윤리적 문제 비윤리적인 질문에 대해 답변을 거부하도록 학습됐지만 우회적 통로를 통해 편향적이거나 차별적 데이터를 학습했다면 그릇된 답변이 나올 수 있습니다. AI 윤리에 관한 적절한 가이드라인이 필요합니다.


저작권 문제 저작권자의 허가 없이 인터넷 기사, 웹사이트 게시글 등을 학습용 데이터로 사용해 저작권 논란이 생길 수 있습니다. 국내에서는 명확한 인공지능의 저작물 학습 근거 마련을 위한 입법을 추진 중입니다. 또 챗GPT가 생성한 자료를 본인 저작물로 사용할 수 있는지에 대한 논의가 필요합니다.

[이유림 경제경영연구소 인턴기자]