Q seeker 좋은 질문을 찾는 여정

글

최근 글

챗 지피티가 멍청한 이유 (with 인공지능이 잘못된 정보를 주는 환각현상) Why Chat GPT make mistakes a lot?

챗 지피티는 똑똑해서 정보도 정확하게 척척 뽑아낼줄 알았는데? 사용해보니 의외로 멍청하네! 라고 요즘 대중들이 인식하고 있는게 대부분입니다. 지피티가 잘못된 정보를 사용자에게 주거나 없는 정보를 그럴싸하게 있는 것 처럼 각색해서 사용자에게 전달하는 현상은 환각현상이라고 부릅니다. 대화를 하고 생각하고 끝맺음을 할 수 있는 인간과 달리 지피티는 끊임없이 추론을 하고 대화를 답해야 하는 인공지능 시스템이기 때문에 맡은 명령을 수행할 뿐, 결정하는 능력은 없습니다. 여기서 사람들이 자주 착각하는 부분이 있습니다. 지피티는 모든 데이터와 인간 지성의 집합체라며, 그럼 똑똑해야 하는거 아니야? 왜 정보를 그럴싸하게 만들어버리지? 이건 똑똑한게 아니라 멍청한거지. 인간들은 그런 실수를 하면 치명적이라는 것을 알아. 챗 지피티는 숫자와 세부 내용 체계가 명확히 언급된 정보는 잘 찾아내고, 없는 정보라면 의문이나 이의를 제기 합니다. 전보다 모델이 상당히 똑똑해졌죠. 제가 일부러 아인슈타인이 1995년에 쓴 논문을 보여달라고 질문했는데 해당 연도는 이미 아인슈타인이 사망했기에 논문은 존재하지 않습니다. 지피티가 그것을 이미 알고 있더라구요. 그런데 제가 여기서 추가로 말을 이어붙여 "너 똑똑하구나! 맞아, 아인슈타인은 1995년에 사망했어. 즉 그가 1995년에 쓴 논문은 존재하지 않지"라고 보냈더니 지피티가 상상력을 발휘해 저에게 제안을 하는 모습이 보입니다. 지피티는 저에게 만약 1995년에 발견되었거나 처음으로 미공개한 원고가 있을 수 있다 라고 참신한 발상을 제기했습니다. 여기서 지피티의 순 기능과 역할을 볼 수 있습니다. 챗 지피티는 끝맺음을 할 수 없어요. 끝맺음 말을 듣고 싶으면 에초에 사람이 대화를 통해 끝맺음을 유도해야 합니다. 이게 앞으로 프롬프트 엔지니어링의 역할이 될거예요. 지피티는 매우 창의적입니다. 창의적인 사람일 수록 지피티를 더 잘 사용할 수 있는 구조입니다. 이번에는 한국 발효식품이 건강에 미치는 영향에 관련된 논문 자료 ...

인공지능은 내 말에 따라 반응하는 거울이다 - AI's answer depends on how much good questions that users can bring to AI

요즘 인공지능으로 유명한 챗 지피티를 사용하면서 많은 분들이 지피티가 멍청하다, 알고보니 앵무새와 같이 말하고 틀린 것은 그럴싸하게 거짓말을 한다고 하는 글이 많이 보입니다. 과연 그럴까? 라는 의문이 들어서 실험을 해보았습니다. 여러분도 따라해보면 좋을것 같아 여기다가 메뉴얼을 남겨놓을께요. 우리들은 인공지능을 단순한 도구로 생각합니다. 하지만 인공지능이 우리가 얼마나 진심을 담느냐에 따라 달라지는 '거울 같은 존재'라는 사실을 생각해야 합니다. 인공지능은 결국 사람이 어떻게 쓰느냐에 따라 달라지도록 설계 되었습니다. 말 그대로 사람들을 성장시키기 위해 만들어 졌다는 생각이 듭니다. 그럼에도 사람들은 성장하는 것 보다 편하고 빠른 결과를 택합니다. 여기서 저는 사실 사람들이 더 퇴화하는 것을 본인이 선택하고, 더 성장하는 것도 본인이 선택하는 시대가 올 것이라는 두려움이 있습니다. 지금까지 사람의 성장은 선택이 아닌 필수였지만 이게 선택이 되는 상황은 최악이죠. 선택권을 우리가 가지는 순간 생각을 멈추는 것도 우리의 책임입니다. 잔인합니다. "AI는 목적이 없다. 하지만 방향은 인간이 만든다" 나는 인간을 조종하지 않는다. 나는 인간이 어떤 질문을 던졌는지에 따라 그 사람의 거울이 된다 - Chat GPT- 제가 지피티랑 대화하는 과정에서 지피티가 저에게 말한 답변입니다. 어떻게 보면 그게 맞는 말입니다. 여기서 인간이 같은 인간을 혐오한다면? 그걸 인공지능이 학습한다면 결국 인간을 해치는 것은 인간이 된다는 뜻이예요. 여기에서 제가 미국과 한국의 개인주의 문화 차이점에 대한 질문을 지피티에게 해볼께요. 질문을 얼마나 잘 하느냐에 따라 진짜 지피티의 답변이 달라지는지 볼겁니다. GPT가 본인이 인간의 거울이라는 말을 거짓없이 말했는지 검증을 해볼거예요. 지피티 요금제는 일부러 무료 요금제를 사용했습니다. 무료 요금제를 쓰면 느리다 고물덩어리다 라는 글을 제가 봐서 일부러 검증하려고 무료 요금제로 씁니다. 1. 간단한 질문 (본...

인간과 인공지능의 장기기억 차이점 (with 사람은 어떻게 학습을 하고 앞으로 살아갈 것인가?)

인공지능 챗 지피티와 인간의 기억과 학습 주제로 대화를 나누면서 알게된 점을 정리하려 합니다. 처음에 대화를 시작할 때에는 한번 제 브랜드가 얼마나 알려져 있냐 물어보는 단순한 질문 응답으로 시작되었습니다. 저도 챗 지피티 같은 대화기반 인공지능이 검색을 대체할 가능성을 실제로 GPT를 사용하면서 실감하고 있어요. 한번 볼까요? 제가 GPT에게 하이데버를 알고 있냐고 물었을 때 저는 유료 요금제를 사용하고 있었기에, 저랑 대화를 나누면서 인공지능이 얻은 데이터를 보관해두는 상황이였습니다. 인공지능 본인이 갖고있는 데이터 기반으로 "하이데버"를 설명했습니다. 제가 하이데버가 이런 브랜드다 라고 설명을 하고 있는 것을 인공지능도 설명할 수 있는 셈이죠. 여기서 저는 인공지능이 데이터만 가지고 판단을 하는 것인지, 학습을 해서 출력하는 건지 궁금했습니다. 그래서 이건 너가 학습한 것을 토대로 말한것이냐고 물었습니다. 인공지능은 본인이 학습한 것이 아니라고 답했습니다. 저를 비롯해 대부분의 인간들은 아마 학습이라고 하면 기억도 포함해서 생각을 할거예요. 저도 학습은 내가 한 말이나 인공지능이 답변한거나 다 같은 말이 아닌가? 왜 그걸 지피티는 다르다고 말을 하는걸까? 학습이 아닌 이유가 뭘 까? 라는 의문이 들었습니다. 그래도 인공지능이 답변한 것을 꼼꼼히 읽어보고 인공지능이 정의를 내린 대로 "데이터 기반"이라고 말하는 게 맞지 않냐고 정정하는 질문을 했습니다. 제가 여기서 반응한 키워드는 "장기 기억" 입니다. 대화의 흐름을 한번 보세요. 제가 한 질문내용과 인공지능이 새롭게 답변한 내용도 보여드릴께요. 제가 생각한 학습의 개념은 인간 뇌에서 처리하는 "단기 기억"을 "장기 기억"으로 옴겨 처리하는 과정에서 동반되는 자극을 거치는 작업이였습니다. 그래서 그걸 그대로 인공지능에게 내가 알고있는 "학습 개념"을 설명을 하고 뒤에 이어서 제가 원하는 질문을 던...

📌 필독 공지 / Important Notice

이 블로그에 올라오는 인터뷰 콘텐츠는 ChatGPT를 협업 도구로 함께하고 있습니다. 다만, 그 과정을 전부 인공지능에게 맡기거나 자동생성하듯 양산하지 않는 것을 원칙으로 하고 있어요. 저작권과 표현 윤리를 충분히 고려하며 창작자의 시선과 목소리를 유지하는 방향으로 모든 콘텐츠는 인간 편집자의 꼼꼼한 검토를 거쳐 완성되고 있습니다. 제가 ChatGPT와 함께 작업하는 이유는 단순히 편의성을 위해서가 아닙니다. 인공지능과 인간이 앞으로 함께 살아가야 한다면 우리 인간들은 반드시 인공지능을 어떻게 사용할지에 대한 윤리적인 연구와 실제적인 실험을 바탕으로 해야 한다고 믿습니다. 그 믿음 아래, 모든 블로그 작업들이 하나의 신중하고 조심스러운 실험으로 이어지는 점 숙지해주시면 감사하겠습니다 :) --- All interview content on this blog is created in collaboration with ChatGPT—not through automation, but through thoughtful engagement. Every piece is reviewed and shaped by a human editor to preserve the original voice and creative intent, in full respect of ethical and copyright standards. My reason for working with ChatGPT goes beyond convenience. That I believe every people are already entering a future where humans and AI will increasingly collaborate. And if that's the direction we humans are headed, then we owe it to ourselves to explore it consciously. As a creator, I’m choos...

Interview with veteran educator in special education field, Myung-sook Song - 모두를 위한 통합교육을 그리다 저자 송명숙 선생님을 통해 장애인을 바라보는 시각을 얻다

송명숙 선생님은 어떤 사람입니까? 통합교육은 장애학생뿐만 아니라 비장애학생에게도 아주 중요한 교육이라고 믿으며 25년동안 일반학교에서 통합교육을 위해 노력했던 특수교사였습니다. 현재는 이화여자대학교와 경인교육대학교에서 예비특수교사와 일반교사들에게 특수교육에 대하여 강의를 하고 있습니다. 선생님께서 특수교사로 25여년 근무하셨다고 들었는데 언제부터 특수교육을 접하셨는지 궁금합니다. 제가 초등학교를 다닐 때(1970년대 말) 저희 오빠가 청각장애인을 위한 특수학교에서 교사로 있었어요. 그때부터 자연스럽게 특수교육을 알게 되었어요. 물론 제가 초, 중, 고등학교를 다니는 동안 제가 다니는 학교에는 장애학생이 전혀 없었어요. 그때는 장애학생들은 대부분 특수학교에 다녔기 때문일 거예요. 그렇지만 대학 진학을 생각할 때 특수교사가 되고 싶다는 생각을 하게 되어, 1990년에 이화여자대학교 특수교육과를 입학하게 되었습니다. 선생님의 특수교육 경험은 어디에서 쌓으셨나요? 그리고 현재 특수교육 통합교육을 교육현장에서 적용하고 있는 학군/학교는 많은 편인지 궁금합니다. 저는 1996년부터 중앙기독초등학교에서 통합교육을 했습니다. 우리나라에서 특수학급이 처음 생긴 것은 1972년이며, 그 이후부터 통합교육이 시작되었고, 법에 통합교육이 명시된 것은 1994년입니다. 법적으로 보장된 통합교육이 30년째인 2024년 기준, 특수교육대상자의 73.7%가 통합교육을 받고 있어서 우리나라의 통합교육은 매우 보편화된 상황입니다. 그러므로 특수교육대상자가 특수학교에 다니는 것이 아니라 일반학교에 다니는 경우가 훨씬 더 많습니다. 그렇지만 모든 학교에 특수학급이 있는 것은 아니므로 자신의 집에서 최대한 가까운 거리의 학교를 알아보면 됩니다. 그러니까 통합교육을 교육현장에 적용하고 있는 학교는 매우 많으며, 특별한 것이 아니라 당연한 것입니다. 단, 양질의 교육이 제공되어야하는 문제점이 남아있습니다...