아티클 | 기업소개 | 이노핏파트너스

이미 다들 잘 알고 계시는 챗GPT를 우리는 생성형 AI라고 합니다. 생성형 AI란 인공지능 기술의 한 종류로서 이미지, 비디오, 오디오, 텍스트 등을 포함한 대량의 데이터를 학습하여 사람과 유사한 방식으로 문맥과 의미를 이해하고 새로운 데이터를 자동으로 생성해 주는 기술을 의미합니다.@media only screen and (max-width:640px) {.stb-container {}.stb-left-cell,.stb-right-cell {max-width: 100% !important;width: 100% !important;box-sizing: border-box;}.stb-image-box td {text-align: center;}.stb-image-box td img {width: 100%;}.stb-block {width: 100%!important;}table.stb-cell {width: 100%!important;}.stb-cell td,.stb-left-cell td,.stb-right-cell td {width: 100%!important;}img.stb-justify {width: 100%!important;}}.stb-left-cell p,.stb-right-cell p {margin: 0!important;}.stb-container table.munged {width: 100% !important; table-layout: auto !important; } .stb-container td.munged {width: 100% !important; white-space: normal !important;} 디지털 혁신 큐레이션#챗GPT #보안 #디지털보안생성형 AI와 보안이미 다들 잘 알고 계시는 챗GPT를 우리는 생성형 AI라고 합니다. 생성형 AI란 인공지능 기술의 한 종류로서 이미지, 비디오, 오디오, 텍스트 등을 포함한 대량의 데이터를 학습하여 사람과 유사한 방식으로 문맥과 의미를 이해하고 새로운 데이터를 자동으로 생성해 주는 기술을 의미합니다.생성형 AI 기술 중 하나인 대규모 언어모델(Large Language Models; LLMs)은 일반적으로 수백억 개 이상의 파라미터를 포함하는 인공지능 모델을 의미하며 복잡한 언어 패턴과 의미를 학습하고 다양한 추론 작업에 대해 우수한 성능을 보유하고 있습니다. 대규모 언어모델 기반의 대표적인 AI 서비스로는 Stable Diffusion, Midjourney, 챗GPT, Bard, Firefly 등이 있습니다.1) Stable Diffusion (개발사 : Stability AI / 출시 : 2022)3) 챗GPT (개발사 : OpenAI / 출시 : 2022)5) Firefly (개발사 : Adobe / 출시 : 2023)2) Midjourney (개발사 : Midjourney / 출시 : 2022)4) Bard (개발사 : Google / 출시 : 2023)챗GPT가 등장한지 벌써 7개월이 지났습니다. 챗GPT의 인기가 높다보니 우리는 자연스럽게 궁금한 것들을 물어보게 됩니다. 과제에 대한 답을 묻기도 하고, 작문 할 일이 있을 때 사용하기도 합니다. 물론 회사에서 업무에 활용하는 경우도 많겠지요. 챗GPT를 잘만 활용한다면 업무 효율성을 높일 수 있는 것은 어찌보면 당연한 일일지도 모릅니다. 그리고 호기심으로 정말 내가 원하는 결과물을 진짜 알려주려나? 싶어 여러가지를 입력해보기도 합니다.하지만 우리가 간과하는 문제 ‘보안’ 이 있습니다. 우리의 질문들을 수집할 수 있다는 것이지요. 단순히 ‘ㅇㅇㅇ 를 알려 줄래?’라든가 ‘너는 ㅁㅁㅁ를 알고 있니?’ 는 수집해도 별 문제가 없어보이지만, 굉장히 많은 내용을 챗GPT에 알려주고 ‘너는 이것에 대해서 어떻게 생각하니?’ 라고 물어 볼 수도 있겠지요?오늘은 우리 모두 이미 다 알고 있는 이 챗GPT(생성형 AI)에 대한 우려와 보안에 대해 나눠볼까 합니다. 오늘의 주제 : 생성형 AI와 보안✅ #1. 생성형 AI는 과연 장미빛 미래만 선사하는가?✅ #2. 생성형 AI의 위협 요인들✅ #3. 전 세계와 기업은 어떻게 움직이고 있는가?기고교수 소개민무홍 성균관대학교 조교수現 이노핏파트너스 파트너교수#생성형AI #저작권침해 #AI윤리생성형 AI는 과연 장밋빛 미래만 선사하는가?생성형 AI의 명암몇 년 전만 해도 AI는 단순 반복 업무 및 저숙련자 고용 위기로 논의되었습니다. 그러나 오픈AI의 논문에 따르면 정보를 다루는 고학력 지식노동자들이 GPT와 같은 LLM(초거대언어모델)의 영향에 더 크게 노출될 것으로 예상됐었습니다.GPT와 같은 생성형 AI 활용에 있어서 신뢰성 이슈가 지속될 수 있습니다. 생성형 AI는 사람처럼 정보와 논리를 바탕으로 맥락에 따라 답을 추론하는 AI 모델이 아닙니다. GPT는 미리 학습된 단어 및 데이터 간의 관계를 파악해 확률이 높은 답을 ‘생성’ 합니다. 훈련된 정보나 지식이 부족하거나 부정확할 경우 그럴 듯하지만 오류가 많거나 무의미한 답변을 하기도 하죠.생성형 AI로 만들어진 창작물의 저작권 침해, 윤리적 편견 등에 대한 부정적인 여파도 많습니다. 이미지 공급업체 게티이미지는 Stability AI를 저작권 침해 혐의로 고소했고, 국내에서도 카카오가 AI로 만든 카톡 이모티콘의 입점을 불허하는 등 저작권과 관련한 논의가 진행 중이다. 잘못된 학습에 따른 윤리적 편향성도 해결되어야 할 문제입니다.생성형 AI 활용과정에서의 기밀이나 개인 정보노출에 대한 우려도 큽니다. 챗GPT나 각종 플러그인을 통해 질문한 자료는 AI서버에 저장되기 때문에 답변을 얻는 과정에서 프롬프트 인젝션 등 해킹을 통해 악의적으로 정보를 탈취할 가능성도 있습니다.>>기사 자세히 보기인공지능 대부의 구글 퇴사, 왜?‘인공지능의 대부’로 불리는 제프리 힌튼은 인공지능 분야에서 가장 존경받는 인물 중 한 명 입니다. 2018년 IT 분야의 노벨상이라 불리는 튜링 어워드를 수상하기도 했습니다. 지난 10년간 힌튼은 구글 직원이자 교수로서 성공적인 삶을 살아왔습니다만, 2023년 5월 뉴욕타임스와의 인터뷰에서 AI의 잠재적 위협이 이전에 생각했던 것보다 더 빨리 다가올 것이라는 점을 세상에 경고하며 구글을 퇴사하였습니다. 이후에는 인공지능 개발 일시 중단 성명서에 서명을 하며 그동안의 삶과는 전혀 다른 행보를 보이고 있습니다.힌튼은 AI가 일자리를 빼앗을 수 있는 당장의 위험과 일반인들에게 진짜처럼 보이는 가짜 사진, 동영상, 텍스트가 만연해 있다는 점이 위험하다고 꼽았습니다. 힌튼은 지금 우리가 만들어내는 디지털 지능은 생물학적 지능과는 완전히 다르다고 생각한다고 말했습니다.>>기사 자세히 보기성명서를 통한 인공지능 기술 발전에 대한 우려올해 3월 미국의 비영리 단체 FLI(Future of Life Institute)는 테슬라 CEO 일론 머스크, 애플 공동창업자 스티브 워즈니악, 베스트셀러 작가 유발하라리 등 1100 명 이상의 산업인들과 함께 '최첨단 AI 시스템의 개발을 일시 중단하자'는 성명서를 발표했습니다. 이 성명서에는 "최첨단 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있다"며 "강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다"고 주장했습니다. 이들은 "독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구실에서 오픈AI가 최근 공개한 AI 모델 GPT-4보다 강력한 AI 개발을 최소 6개월 간 즉시 중단할 것으로 요청한다"고 밝혔습니다. 이들은 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입해 유예 조치를 취해야 한다고도 했습니다.>>기사 자세히 보기그리고 5월에는 AI기업의 CEO들이 급격히 발전하는 기술의 존재적 위험성에 대한 성명서를 통해 경고했습니다. 이 성명서에는 챗GPT를 만든 오픈AI의 CEO 샘 알트만, 알파고로 유명한 딥마인드 CEO 데미스 허사비스 등이 참여하였으며, 비영리 단체인 CAIS(Center for AI Safety)에서 발표했습니다. 이번 성명서는 "AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 사회적 위험과 함께 전 세계적으로 우선순위여야 한다"고 주장했습니다.#환각현상 #AI모델 #딥페이크생성형 AI의 위협 요인들얼마 전 한국국가정보원은 챗GPT 관련 보안 문제를 사전에 예방하기 위해 마련한 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했습니다. 이번 가이드라인에는 생성형 AI기술과 관련한 △개요 및 해외동향(챗GPT 사례 중심) △보안위협 사례 △기술 사용 가이드라인 △국가·공공기관의 정보화사업 구축 방안 및 보안대책 등이 담겼습니다. 어떤 내용인지 구체적으로 살펴볼까요?잘못된 정보 제공생성형 AI가 정확히 무슨 데이터를 학습하는지는 알기 어렵습니다. 따라서 학습 데이터의 불균형 또는 데이터 내의 직·간접적인 편향은 AI 모델의 편향으로 이어질 수 있으며, 이는 모델이 만들어내는 결과물에 영향을 미쳐 사용자에게 사실과 다른 정보를 제공할 수 있습니다. 그리고 특정 생성형 AI 모델은 최종 학습 데이터 시점까지의 정보만 가지고 있기 때문에 학습 이후에 발생한 사건이나 정보에 대해서는 알지 못하거나, 부정확한 정보를 제공할 수 있습니다.환각(Hallucination) 현상은 AI 모델의 결과물이 정확한 것처럼 생성되었으나 실제로는 거짓인 경우를 말합니다. 즉, AI 모델은 새로운 콘텐츠를 생성할 수 있는 능력으로 인해 잘못된 정보나 존재하지 않는 정보를 생성할 수 있다는 특징을 가지고 있다. 이러한 환각 현상은 AI 모델의 신뢰성을 저하시키는 원인이 될 수 있습니다. 이는 사회적 혼란 조장 하거나 검증되지 않은 결과물의 공유로 잘못된 의사 결정을 일으킬 수 있게 됩니다.AI 모델의 악용AI 모델은 사실적이고 믿기 쉬운 콘텐츠를 생성할 수 있습니다. 이를 통해 사용자는 다른 사람들을 조작하거나 사기를 칠 수 있는 잠재적인 도구를 얻을 수 있습니다. 이는 사회 공학적 공격을 더욱 쉽게 만들고, 사람들이 피해자가 될 위험성을 증가시키게 됩니다.이는 매우 사실적인 텍스트, 이미지, 오디오 등을 만들 수 있습니다. 이는 악의적인 사용자가 이를 이용해 위조된 정보, 즉 '딥페이크'를 만드는 데 사용될 수 있습니다. 이는 개인의 사생활 침해, 허위 정보 유포 등에 사용될 수 있으며, 이로 인한 보안 위협이 증가하고 있습니다.그리고 생성형 AI 모델은 심지어 가짜 뉴스를 생성하는 데 사용될 수 있습니다. 특히, 챗GPT 등 대규모 언어모델은 인간이 생성하는 수준의 현실적이고 설득력 있는 결과물을 생성함으로써 허위 정보를 퍼뜨리는 데 악용이 가능합니다. 여러 언어로 번역하는데도 수초밖에 걸리지 않습니다.챗GPT에서 경험해 볼 수 있듯이, AI 모델은 사용자가 제공하는 텍스트 스타일을 흉내 내는 데 매우 효과적 입니다. 이는 해킹 시도와 같은 곳에 활용될 수 있습니다. 피싱 이메일을 생성하거나, 특정 개인이나 단체의 말투를 도용하는 데 악용될 수 있습니다. 이렇게 생성된 정교한 피싱 이메일은 기존의 보안 시스템을 속이고, 사람들이 이를 진짜로 인식하게 만들 수 있습니다.보안이야기를 조금 더 해볼까요? AI 모델은 소프트웨어 코드를 생성할 수 있습니다. 이는 AI 모델이 악성 코드 작성에 이용될 수 있음을 의미합니다. 해커는 이를 통해 보안 시스템을 회피하는 데 필요한 복잡한 악성 코드를 작성할 수 있으며, 이로 인해 정보 보안에 심각한 위협이 될 수 있습니다.AI 모델은 학습 데이터에 기반하여 결과를 생성합니다. 따라서 개인정보가 포함된 데이터로 학습이 이루어질 경우, AI가 해당 정보를 부적절하게 공개할 가능성이 있습니다. 이 문제를 해결하기 위해 데이터를 처리하는 동안 적절한 프라이버시 보호 조치를 취해야 하며, 데이터를 충분히 일반화하고 개인정보를 제거해야 합니다.그리고 AI 모델의 예측이나 생성을 조작하는 시도, 예를 들어 적대적 공격(adversarial attack) 등도 보안 위협으로 간주될 수 있습니다. 이를 통해 AI는 예상치 못한 방식으로 작동할 수 있으며, 이는 사용자에게 잠재적으로 해로운 결과를 초래할 수 있습니다.>>가이드라인 자세히 보기#AI규제 #AI평가 #개인정보보호전 세계와 기업은 어떻게 움직이고 있는가유럽 연합 EUEU는 지난 5월 11일 인공지능에 대한 세계 최초의 규제 프레임워크인 ‘인공지능 법(AI Act)’ 제정의 첫 단계로서 해당 법 초안을 유럽의회 상임위원회에서 통과시켰습니다. EU 인공지능 법에 따르면, 챗GPT 등 대규모 언어모델 및 생성 AI와 같은 이른바 ‘기초 모델' 제공업체 개발자는 모델을 공개하기 전에 안전 점검, 데이터 거버넌스 조치 및 위험 완화 조치를 적용해야 합니다. 시스템을 훈련하는데 사용되는 학습 데이터 셋을 공개하고 생성 AI가 만든 콘텐츠는 인간이 생성한 것이 아님을 밝혀야 한다는 조항을 추가하였습니다.미국美 백악관 과학 기술 정책실(Office of Science and Technology Policy)은 2023년 8월 개최되는 데프콘(DEFCON)에서 챗GPT를 비롯한 생성형 인공지능 시스템을 공개 평가하여 잠재적인 취약점(potential harms)을 테스트한다고 밝혔습니다.캐나다캐나다 개인정보 보호 규제당국(Canada privacy regulators)은 2023년 5월 26일 챗GPT의 모기업인 OpenAI의 데이터 수집 및 사용에 관한 공동 조사를 시작하였습니다. 연방 개인정보 보호 규제기관은 퀘벡, 브리티시 컬럼비아, 앨버타의 규제 기관과 함께 OpenAI가 챗GPT를 통해 사용자(residents)의 개인정보 수집, 사용 및 공개에 대한 동의를 얻었는지 여부를 조사할 것이라고 밝혔습니다.이탈리아이탈리아 개인정보 감독기구(Italian Data-Protection Authority; Italian DPA)는 3월 31일, 챗GPT의 개인정보 수집, 처리 및 사용자 연령 확인 부재로 인해 개인 정보 보호 규정(GDPR) 위반 사유로 판단하여 챗GPT의 사용을 금지하는 조치를 취했습니다.▼ (영상)이탈리아, 개인정보 우려에 챗GPT 차단…서방국가 처음 / 연합뉴스TV그러나 이후 4월 28일, OpenAI가 DPA의 요구사항을 이행함에 따라 이탈리아 정부는 챗GPT의 접속 차단을 해제하였습니다. OpenAI는 가입 시 이탈리아에서 사용자의 나이를 확인할 수 있는 도구를 제공하고, 유럽 연합 사용자가 모델 학습을 위해 개인 데이터를 사용하는 것에 반대할 권리를 행사할 수 있는 새로운 양식을 제공하는 등 이탈리아 DPA에서 제기한 문제를 해결하거나 명확히 하였습니다.일본일본 내각부는 지난 4월 22일 OpenAI의 챗GPT와 유사한 생성형 인공지능 챗봇의 확산에 대응하기 위해 경제산업성, 총무성, 문부과학성, 디지털청 등 관계 부처가 참여하는 ‘AI 전략팀’ 신설 계획을 발표하였습니다. 이 전략팀은 2023년 4월 24일 회의에서 AI의 업무 활용과 관련된 과제를 정리하고 부처 간 의사소통을 강화하는 방안을 논의한 바 있습니다.챗GPT의 사용을 제한한 기업애플은 일부 직원들을 대상으로 챗GPT, 구글 바드(Bard) 및 이와 비슷한 대규모 언어 모델 기반 서비스의 사용을 제한했습니다. 미국 금융계인 JP모건체이스, 뱅크오브아메리카, 씨티그룹, 골드만삭스, 도이체방크 등 주요 월가 은행도 재무 데이터의 보안을 우려해 이미 챗GPT 등 AI 챗봇 사용을 제한했습니다.SK하이닉스는 사내망에서 챗GPT를 쓰지 못하도록 접근을 막았습니다. 일종의 허가제를 도입해 챗GPT 사용이 필요하면 회사의 승인을 받도록 했죠. 국내 금융계인 우리은행과 우리금융지주, 국책은행인 기업은행도 각종 개인정보와 은행 기밀 정보 유출 등을 우려해 임직원을 대상으로 사내 챗GPT 사용을 제한했습니다.챗GPT를 사용하는 기업업무 생산성과 효율성을 크게 끌어올려 주는 챗GPT의 강점을 포기하지 않고 보안 문제를 해결할 방법을 찾아 이용하는 기업들도 있습니다. SK텔레콤은 국내 통신 업체 가운데 처음으로 챗GPT를 업무에 정식으로 도입했습니다. 사용료를 지불하고, 외부와 완전히 분리된 사내망에서만 작동하는 최적화된 직원 전용 챗GPT 서비스를 자체 개발해 정보 유출의 위험을 막아냈습니다.포스코는 챗GPT 공개 플랫폼인 오픈AI가 아닌 내부 인트라넷을 통해 챗GPT를 활용할 수 있는 경로를 마련했습니다. 다시 말해 내부 시스템 안에서만 사용되는 챗GPT 인거죠. 오픈AI의 최대 주주 마이크로소프트(MS)가 운영하는 사내 협업 플랫폼 '팀즈'에 챗GPT 기능을 도입해 내부 시스템에서만 챗GPT를 사용하도록 한 거라고 보시면 됩니다. >>기사 자세히 보기큐레이터의 시선챗GPT, 즉 생성형 AI에 발전 가능성이나 성장세와 같은 즐거운 이야기만 하지는 않았습니다. 문제가 있다고는 하지만 이용을 막을 수도 없고, 그렇다고 발전을 중단시킬 수도 없습니다. 올바른 활용을 위해 윤리 교육과 적절한 규제도 필요하다는 생각입니다. 아이폰이 나온 지 15년이 지난 지금, 우리 삶을 혁신적으로 바꿔줄 것이라 예상되는 챗GPT는 과연 우리 삶을 어떻게 바꿔놓을까요?그리고 챗GPT는 엄청난 도구입니다. 이번 레터에서 보신 것처럼 엄청난 파급력만큼이나 역기능들을 가지고 있습니다. 특히 초반에 언급한 것처럼 기업 입장에서는 '보안' 문제에 대해 예민하게 접근하게 될 것입니다. 우리 임직원들은 코로나를 겪으면서 재택 근무에 대한 경험을 한 번씩은 해봤지요. 그러므로 회사 시스템 내에서 접근을 막았어도, 집에는 이미 중요한 회사 자료가 어느 정도 있을 수 있습니다.임직원들의 '보안'에 대한 영역은 챗GPT를 정확하게 이해하는 교육과 동시에 직접적인 보안 의식을 함양하는 교육, 즉 결국 교육으로 풀어가야 하는 문제일 것입니다.임직원들이 챗GPT를 잘 이해하면서 안전하게 접근한다면 업무 효율성을 정말 말도 안 되게 높이게 될 것입니다. 물론 반대의 기업도 있겠지요? 여러분의 기업은 챗GPT를 어떻게 사용하고 있나요?마지막으로 국정원에서 공개한 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’에 포함된 <챗GPT 등 생성형 AI 활용 보안 수칙>을 살펴보면서 마무리하도록 하겠습니다.챗GPT 등 생성형 AI 활용 보안수칙1️⃣민감한 정보(非공개 정보, 개인정보 등) 입력 금지_*설정에서 「대화 이력&학습」기능 비활성화2️⃣생성물에 대한 정확성·윤리성·적합성 등 재검증3️⃣가짜뉴스 유포·불법물 제작·해킹 등 범죄에 악용 금지4️⃣생성물 활용 시 지적 재산권·저작권 등 법률 침해·위반 여부 확인5️⃣악의적으로 거짓 정보를 입력·학습 유도하는 등 비윤리적 활용 금지6️⃣연계·확장프로그램 사용 시 보안 취약여부 등 안전성 확인7️⃣로그인 계정에 대한 보안설정 강화 및 보안관리 철저_*'다중 인증(MFA)' 설정 등

“내가 아는 언어의 한계가 곧 내 세상의 한계다”20세기의 가장 위대한 철학자로 손꼽히는 오스트리아의 철학자 루트비히 비트겐슈타인이 남긴 명언입니다. 우리가 생각하고 사고하고 철학하고 사색하고 사유하고 고찰하고 하는 것들은 그 재료가 언어일 것이고, 언어의 재료가 많다는 것은 그만큼 내 세상의 한계가 될 수 있다는 생각이 듭니다.@media only screen and (max-width:640px) {.stb-container {}.stb-left-cell,.stb-right-cell {max-width: 100% !important;width: 100% !important;box-sizing: border-box;}.stb-image-box td {text-align: center;}.stb-image-box td img {width: 100%;}.stb-block {width: 100%!important;}table.stb-cell {width: 100%!important;}.stb-cell td,.stb-left-cell td,.stb-right-cell td {width: 100%!important;}img.stb-justify {width: 100%!important;}}.stb-left-cell p,.stb-right-cell p {margin: 0!important;}.stb-container table.munged {width: 100% !important; table-layout: auto !important; } .stb-container td.munged {width: 100% !important; white-space: normal !important;} 디지털 혁신 큐레이션#데이터 #데이터리터러시 #AI리터러시데이터를 읽는 능력이, 내 세상의 한계다“내가 아는 언어의 한계가 곧 내 세상의 한계다”20세기의 가장 위대한 철학자로 손꼽히는 오스트리아의 철학자 루트비히 비트겐슈타인이 남긴 명언입니다. 우리가 생각하고 사고하고 철학하고 사색하고 사유하고 고찰하고 하는 것들은 그 재료가 언어일 것이고, 언어의 재료가 많다는 것은 그만큼 내 세상의 한계가 될 수 있다는 생각이 듭니다.그리고 지금, ‘디지털 세상의 언어는 데이터, 데이터를 읽는 능력이 내 세상의 한계’가 되어가는 세상에서 우리에게 요구되는 능력은 데이터를 읽고 해석할 수 있는 능력, 바로 ‘데이터 리터러시’ 입니다.‘빅데이터’라는 용어가 주목받기 시작한 이래 10년이라는 세월이 더 지났지만, 교육계에서는 시대가 요구하는 인재 양성을 위해 데이터 리터러시를 디지털 핵심 역량으로 정의하여 교육 방향을 구상하는 등 앞으로 10년 이후에도 데이터 활용 역량은 디지털 핵심 역량이 될 것으로 전망하고 있습니다. 그러나 데이터를 활용하여 디지털 혁신을 이뤄내는 과정에서 직면하는 가장 큰 장애물 중 하나는 소수의 데이터 전문 인력을 중심으로 변화를 꾀하기 때문에 혁신이 광범위하게 지속되기가 어려운 점을 꼽을 수 있을 것입니다.대다수의 전문가들이 디지털 트랜스포메이션 성공의 열쇠는 사람에게 있고, 데이터 중심적인 사고와 건강한 조직 문화가 전제되어야 한다고 이야기합니다. 그러기 위해서는 의사결정에 참여하는 누구나 데이터를 올바르게 해석할 수 있는 데이터 리터러시 역량이 필요하지만 현실은 소수의 데이터 전문가에 의존하는 경우가 많습니다. 그렇기 때문에 데이터 혁신이 조직 내에 자연스레 스며들게 하기 위해 가장 전제되어야 하는 것은 바로 구성원들의 데이터 이해도를 높이고 데이터 활용력을 강화해 나갈 수 있는 데이터 리터러시 역량을 갖춰 나가는 것입니다.>> 관련 교육 프로그램 보러가기이를 위해, 데이터 전문가 집단인 데이터 과학자의 역할과 데이터 전문가는 아니더라도 기본적인 데이터 분석 및 활용 능력을 갖춘 시티즌 데이터 과학자의 역할을 구분한 투트랙의 접근이 필요할 것이고, 이를 촉진시키면서 강한 동력을 부여할 수 있는 C레벨의 장기적 의지와 데이터 이해도 또한 필수 요건이라고 할 수 있을 것입니다.아울러, 데이터 리터러시와 함께 주목해야 할 것이 바로 ‘AI 리터러시’(인공지능 문해력)입니다. 챗GPT의 플러그인 연동이 확대되며 생태계를 넓혀나가고 있고, 그 발전속도는 따라기가 버거울 정도입니다. 최근에는 구글의 바드도 한국어 지원이 되는 등 AI 활용폭은 더욱 넓어지고 있습니다. 그러나 AI가 가져다주는 엄청난 효용가치에도 불구하고 AI의 부작용에 대한 우려도 함께 커지고 있는 상황에서 AI를 올바르게 활용할 수 있는 AI 리터러시가 주목받고 있습니다.아래는 필자가 지난 베네핏 레터(클릭)에서 작성한 글의 일부입니다.챗GPT에게 질문하니 자기가 작성한 글이라고 너무나 자신감 넘치게 거짓말을 하는 것을 볼 수 있습니다.다시, 일부러 ‘전환점’을 ‘전한점’으로 오타를 내서 물어보니 “자기가 작성한 글이 아니다”라고 대답을 하는 것을 볼 수 있습니다. 이렇듯, 너무나도 그럴듯하게 거짓말을 지어내는 현상을 ‘환각(할루시네이션)’이라고 하는데, 이를 어떻게 구분할 수 있을까요?학계, 문학계 등 여러 분야에서 챗GPT 로 인해 골머리를 앓고 있는 문제인데, 문제는 뾰족한 해결책이 없다는 데에 있습니다. AI가 작성한 글이 인터넷 상에 절반 이상을 차지하는 날이 수 년 이내 올지도 모르겠습니다. 그렇게 되면 AI는 자신이 작성한 오염된 데이터를 학습하면서 더욱 환각 현상이 심해질 수도 있을 것입니다. 원본이 사라지고, 무엇이 옳고 그른 것인지 판단하는 것이 더욱 어려워질 것입니다. 동시에 올바른 답을 이끌어낼 수 있는 질문 능력이 더욱 중요해질 것입니다. 곧 다가올 미래 세상에서 바로 AI 리터러시를 갖춰야 하는 이유입니다.오늘의 주제 : 데이터 리터러시와 AI 리터러시✅ #1. [데이터 인재] 데이터 리터러시를 가진 팀원은 여전히 부족✅ #2. [데이터 역량 강화] 정부와 기업 데이터 역량 강화에 총력✅ #3. [AI리터러시] 챗GPT ‘환각’ 현상 주의보에 ‘AI 리터러시’ 주목기고교수 소개신도용 교수現 이노핏파트너스 전문교수#가트너 #데이터분석 #데이터인재부족[데이터 인재] 인사이트 있는 데이터 리터러시 가진 팀원, 여전히 부족효과적인 가치 제공하는 데이터 및 분석 팀은 절반 미만가트너의 최근 설문조사 결과에 따르면 데이터 및 분석(Data and analytics, 이하 D&A) 리더 가운데 해당 팀이 효과적인 가치를 제공한다고 답한 비율은 절반이 채 되지 않는 44%에 불과했다고 밝혔습니다.D&A 팀에 대한 요구의 범위와 복잡성을 고려할 때, 응답자의 39%가 답한 바와 같이 D&A 성공의 최대 걸림돌은 ‘인재 부족’인 것으로 나타났습니다. 설문조사에서 D&A의 걸림돌로 꼽힌 상위 6개 요소는 모두 사람과 관련된 문제였습니다. 효과적인 D&A 팀을 구축하기 위해 최고 데이터 및 분석 책임자(Chief Data & Analytics Officers)는 준비된 인재를 고용하는 것 이상의 강력한 인재 관리 전략을 갖춰야 합니다. 여기에는 핵심 D&A 팀과 광범위한 비즈니스 및 기술 커뮤니티 내의 데이터 중심 문화와 데이터 리터러시를 위한 교육, 훈련 및 코칭이 포함돼야 합니다.>>기사 자세히 보기데이터 인력 부족률 12.2%, “전문교육 기관 활성화해야”국내 데이터산업 시장 규모는 지난해 23조972억원 규모로 집계됐습니다. 2019년부터 2021년까지 연평균 17.1% 증가했다. 2027년에는 47조원을 넘어설 것으로 전망됩니다.데이터산업 분야 인력 수요 역시 증가해 2026년까지 총 1만8148명이 추가로 필요할 것으로 예상됩니다. 현재 인력과 필요 인력의 차이를 나타내는 인력 부족률은 12.2%로 나타났습니다. 분야별로는 △데이터 과학자 △데이터 분석가 △데이터 개발자 등이 필요 직무로 손꼽혔습니다.이같은 상황에도 데이터 기본법에 대한 기대가 커지고 있습니다. 데이터 기본법은 데이터 전문인력 양성을 위한 정책의 기본방향 및 전문인력의 활용 방안을 담고 있습니다. 데이터 기본법 제25조는 △데이터 전문인력 양성기관 지정 △교육·훈련 프로그램 개발 및 활용 △데이터 전문인력 양성을 위한 학계, 산업계 및 공공기관과 협력 △데이터 전문인력 고용창출 및 고용연계 지원 방안 △데이터 관련 직무표준의 마련 및 자격·신직종 정착 지원 등이 주 내용입니다.향후 5년 내 데이터산업 인력 부족률 (출처: 전자신문)데이터 전문인력 양성기관 활성화가 시급하다는 공감대가 분명합니다. 데이터 관련 학과 정원을 늘리고 데이터 중심으로의 학과 개편도 필요하지만 지금 당장 요구되는 인력 부족을 해결하긴 어렵다는 판단입니다. 또, 대학 교육만으로 실무 역량을 담보하기 어렵다는 지적입니다.>>기사 자세히 보기#데이터리터러시역량강화 #데이터활용 #디지털인재양성[데이터 역량 강화] ‘정부, 기업’ 데이터 리터러시 역량 강화에 총력전행안부, 지자체 데이터 활용 역량 강화 나선다행정안전부가 지역 사회의 디지털플랫폼정부 기반 확대 지원에 나섰습니다. 행안부는 ‘직접 데이터를 분석·활용할 수 있는 역량을 갖춘 현업 공무원 양성’을 목표로 ‘데이터 활용역량 강화 계획’을 수립했습니다. 또한 3개 추진전략과 9개 세부과제를 추진합니다.첫번째 추진전략은 ‘조직 전반으로 데이터문화 확산 및 인식 제고’입니다. 행안부는 이를 위해 월 1회 ‘데이터와 데이트 데이(Day)’를 운영하고, 부내 방송·온라인 퀴즈 등 데이터 문화 확산 활동을 지속할 예정입니다. 아울러 기업 및 학계의 데이터 관련 저명인사 특강을 정기적으로 실시해 데이터의 중요성에 대한 인식을 높입니다. 데이터 연구모임도 지속적으로 확대·운영합니다.두 번째 추진전략은 ‘데이터를 이해하고 소통할 수 있는 역량 강화’입니다. 데이터 리터러시 교육을 확대·운영하고, 데이터 리터러시 부내 공모전을 개최하는 것이 골자입니다. 특히 과장 이상의 관리자를 대상으로 하는 데이터 활용 교육을 개설하는 등 전 직원의 데이터 역량을 강화할 계획입니다.세번째 추진 전략은 ‘데이터 분석·활용할 수 있는 역량 배양’입니다. 먼저 실무 사례를 적용하여 담당자가 직접 분석하고 활용해 볼 수 있는 전문교육 과정을 개설·운영합니다. 이와 함께, 정책 현안에 데이터를 활용하는 성공 사례를 발굴하고 확산에 앞장 설 예정입니다.>>기사 자세히 보기100만 디지털 인재 양성과 데이터기반 의사 결정정부는 100만 디지털 인재 양성을 국정과제로 채택하고 지난 8월 디지털 시대의 주인공이 될 100만 인재를 앞으로 5년에 걸쳐 양성하겠다는 방안을 발표했습니다. 이에 따라 관계 부처는 전 국민의 디지털 교육 기회 확대와 역량 강화를 지원하고 영역별, 전공 분야별, 수준별 인재 양성을 위한 맞춤형 정책을 교육계 및 산업계 등과 협력해 다양하게 추진해 나갈 계획입니다. ‘100만 인재양성’은 전문 인재뿐만 아니라 전 국민이 삶과 전공 분야에서 디지털 기술을 자유롭게 사용할 수 있도록 지원하겠다는 야심 찬 목표를 잘 보여 주고 있습니다.2020년 12월 10일부터 ‘데이터기반행정활성화에 관한 법률’(약칭, 데이터기반행정법)이 시행되면서 데이터 기반 의사결정에 대해 정부는 물론 산업계와 학계도 높은 관심을 보이고 있습니다. 법률의 핵심은 데이터를 정책 수립 및 의사결정에 활용함으로써 경험과 직관에 의존하기보다 객관적이고 과학적인 증거 기반의 접근을 활성화하자는 것입니다. 데이터에 기반한 정보와 지식을 바탕으로 명확한 방향성을 제시할 수 있게 되고 이해관계자의 여러 행동 패턴을 데이터로 축적해서 이를 분석한 결과를 기반으로 하게 되면 전향적인 의사결정을 하기가 용이해집니다.최적의 데이터 기반 의사결정을 하기 위해서는 준비해야 할 일이 많습니다. 우선 필요한 데이터를 찾아 가공·분석해야 하고, 데이터 리터러시를 갖춘 전문 인력도 확보, 배치해야 합니다. 무엇보다 데이터를 이해하고 업무에 적용하여 실행에 옮기는 일련의 과정에 대한 인식 전환과 행정에서의 업무문화 변화가 선행되어야 할 것입니다.>>기사 자세히 보기 ▼ 21세기를 혁신할 데이터 산업!DX 추진을 위한 인적자원 개발(HRD)기업이 필요로 하는 역량과 자원을 강화하는 방법으로 산업계에선 3B (Build·Buy·Borrow)가 언급돼 왔습니다. 인적자원 또한 마찬가지며 이 3B는 교육과 육성, 채용, 제휴 협력에 해당합니다. DX 인적자원 강화에 있어 핵심이자 주된 대상인 임직원은 데이터 과학자(Data Scientist), 시티즌 데이터 과학자(Citizen Data Scientist), 임원급 리더 이상 3개 그룹이라 할 수 있습니다.데이터 과학자는 잘 알려진 대로 컴퓨터 공학, 통계학과 수학 등 전문 학위를 보유한 인력을 말합니다. 시티즌 데이터 과학자는 프로그래밍, 통계학 등을 전문적으로 배운 적은 없으나 실무적 교육을 통해 데이터 분석 능력을 갖춘 현업 실무자를 일컫습니다. 이에 DX를 추진할 인적자원의 강화에 있어 기업이 시행착오를 최소화하도록 Build에 초점을 두고 핵심 사안을 다뤄 보면 다음과 같습니다.DX 인적자원 강화 방법 및 대상 (출처: 전자신문)우선 시티즌 데이터 과학자를 어떻게 키워낼 것인가, 즉 각 도메인에서 실무를 수행 중인 인력들을 데이터 분석이 가능한 인력으로 Build 하는 것이 가장 중요할 것입니다(상단 그림의 A부분). 이들을 어떻게 하면 단기간에 시티즌 데이터 과학자로 양성해서 실전형 DX 인적자원으로 만들 것인지가 관건이란 의미지요. 도메인 실무자가 데이터를 얼마나 잘 활용할 수 있느냐는 결국 그 가치사슬의 DX 속도와 수준을 결정할 것이기 때문입니다.임원 대상의 Build 또한 매우 중요합니다(상단 그림의 B부분). 어떻게 해야 임원급 리더들이 디지털 기술의 활용 시도에 대해 깨어 있고, 높은 안목을 갖도록 할 것인지는 대단히 중요합니다. 이들의 시각과 안목에 따라 앞에서 언급한 Build 방안들의 실행과 성패가 좌우되기 때문이죠. 정보기술(IT), 금융 등 일부 산업은 데이터와 인공지능(AI)에 대한 시각과 안목이 대체로 일정 수준 이상에 올라선 것으로 보이나 많은 전통산업 기업의 리더는 소위 데이터 리터러시(문해력)를 보다 높여야 할 것으로 예상됩니다. 4차 산업혁명으로 일컬어지는 디지털 변혁기 과정에서 이들의 데이터 문맹은 조직의 수익성, 성장성에 적지 않은 문제를 야기할 것이기에 리더들의 데이터 리터러시 향상은 더할 나위 없이 중요합니다.기업 활동에서 근원적 요소는 사람이며, 모든 이노베이션을 이뤄내는 주체도 사람임을 우리는 이미 알고 있습니다. 기업이 DX 해법 모색에 고심하고 있는 지금 인적자원의 중요성을 강조하는 이 구절을 다시금 새겨볼 때입니다.>>기사 자세히 보기SAS, 야구로 어린이 데이터 활용 능력 키운다SAS는 어린이를 대상으로 데이터를 읽고 분석하며 목적에 맞게 활용할 수 있는 능력인 데이터 리터러시를 향상하기 위해 배팅 랩(The Batting Lab) 프로그램을 마련했습니다. 배팅 랩은 인공지능(AI), 컴퓨터 비전과 사물인터넷(IoT) 분석 기술을 활용해 어린이들이 야구와 소프트볼 타격 실력을 향상시키는 체험 프로그램입니다. 동시에 데이터 리터러시의 기본 요소인 데이터 분석과 활용에 대한 자신감을 가질 수 있도록 돕습니다. 데이터 과학과 스포츠를 접목한 배팅 랩은 어린이들에게 야구를 통해 일상생활과 밀접한 데이터 활용 사례를 직접 경험토록 함으로써 데이터 수집과 분석에 대한 어려움과 진입 장벽을 낮춰준다고 회사 측은 설명했습니다.배팅 랩(The Batting Lab) 프로그램 (출처: 전자신문)>>기사 자세히 보기#챗GPT활용 #환각현상 #인공지능문제점[AI리터러시] 챗GPT ‘환각’ 현상 주의보에 ‘AI 리터러시’ 주목세종대왕이 맥북을 던져? 챗GPT의 ‘환각’에 속지 않으려면인공지능 챗봇이 존재하지 않는 환각을 보는 것처럼 ‘거짓 답변’ ‘황당한 답변’을 쏟아내면서 진실성이 의심받고 있습니다. ‘세종대왕 맥북 던짐 사건’은 널리 화제가 된 사례입니다. 이에 전문가들은 인공지능 챗봇이 내놓는 답은 일종의 ‘환각’이기에 진실로 믿으면 안 된다고 강조합니다.인공지능 챗봇은 논리나 진실에 관계없이 방대한 양의 텍스트를 학습하고 주어진 맥락에서 어떤 답변이 가장 적절할지 추론합니다. 인터넷에 널려 있는 온갖 정보와 패턴, 맥락을 학습해 자연스러운 다음 문장을 생성할 뿐, 자신이 무엇을 하고 있는지 인식하지 못합니다. 전문가들은 ‘환각’ 문제가 인공지능 관련한 가장 중요한 과제 중 하나라고 말합니다.인공지능 챗봇의 통제와 윤리적 사용을 위해 전문가들은 챗봇의 답변을 의심하고 회의하는 태도를 견지해야 한다고 말합니다. 이른바 ‘AI 리터러시’인데, 정부와 기업에 인공지능 윤리 문제를 맡기지 않고 시민 참여로 풀어가기 위해 인공지능 시민 교육이 이루어지고 있는 핀란드 사례는 주목할만합니다. 인공지능 전문가 랜스 엘리엇 박사는 지난달 15일 <포브스> 인터뷰에서 “인간은 올바른 질문을 할 수 있도록 훈련해야 한다. 인공지능의 파도는 위험하며, 우리는 아직 수영하는 법을 모른다”며 “건강한 회의주의야말로 최고의 자산이다”고 말했습니다.샌프란시스코에 사는 소수의 개발자들이 문화와 정치적 맥락이 다른 전 세계 사람들이 이용하는 도구의 허용 범위를 결정하게 해서는 안 된다는 지적도 나옵니다. 챗봇의 기능을 과신해 복음처럼 여기는 태도도 경계해야 할 지점입니다. 대화형 인공지능을 과신하면 이들이 할 수 없는 일도 해줄 것이라고 기대하는 의존의 함정에 빠질 위험성이 큽니다.>>기사 자세히 보기AI리터러시 교육을 위한 대응책은?2020년 듀리 롱(Duri Long)은 AI 리터러시를 “개인이 AI 기술을 비판적으로 평가할 수 있게 해 주는 일련의 역량으로서, AI와 효과적으로 의사소통하고 협업하며 온라인, 가정 및 직장에서 AI를 도구로 사용하는 역량”으로 정의하고 있습니다.글로벌 시대에는 영어가 기본이었듯이 AI와 공존해야 하는 디지털 시대에는 AI가 기본입니다. 대한민국이 AI 강국이 되기 위해서는 AI에 대한 보편적 소양 교육, 즉 전 국민이 AI를 이해하고 설명하고 응용할 수 있는 AI 리터러시 교육이 절대적으로 필요할 것입니다. AI는 컴퓨터 전문가뿐만 아니라 모든 사람의 기본 역량이 돼야 합니다. 모든 이의 작업 환경과 일상생활에 읽기 쓰기 수학과 디지털 기량 외에 AI 도구를 이용해서 문제를 정의하고 해결할 수 있는 ‘AI 사고력’을 더해야 합니다. AI 리터러시를 갖추는 간단한 방법은 우리가 일상에서 지나치는 작은 현상에도 AI 기술을 적용할 수 있는지 여부를 생각하는 습관을 가지는 것입니다.현재 각 나라에서 AI 리터러시 교육을 위한 여러 가지 대응책들이 제시되고 있습니다. 핀란드 헬싱키대학은 전 세계 성인들을 대상으로 인공지능 리터러시 온라인강좌인 ‘인공지능의 진실(Elements of AI)’을 무료 제공하고 있습니다. 미국의 MIT에서 만든 코그니메이츠는 미디어 리터러시 교육을 위한 온라인 플랫폼으로, 학생들이 다양한 미디어 콘텐츠를 읽고, 만들고, 공유하고, 평가할 수 있도록 지원합니다. 국내의 경우 부산시교육청은 ‘인공지능 (AI)기반 교육 가이드북’을 출간하여 인공지능 리터러시 교육의 이해와 실제를 안내하고 있습니다.>>기사 자세히 보기✅ 함께 보면 좋을 기사가트너, 2023년 데이터·분석 10대 트렌드 발표(ZDNET Korea)제품 관리자가 가져야 하는 데이터 리터러시(데이터 문해력)이란?(요즘IT)기고교수 / 이노핏파트너스 신도용 전문교수글 정리 / 이노핏파트너스 마케팅팀디지털 트랜스포메이션 시대에 FIT한 지식 혜택 (베네핏레터는 격주 금요일에 찾아갑니다)beneFIT Letter(베네핏 레터)는 이노핏파트너스의 노하우를 담아 디지털 트랜스포메이션 시대의 '산업별' 핵심 지식, 트렌드를 큐레이션한 뉴스레터입니다. 이 내용을 이메일로 편하게 받아보고 싶으시다면, 구독해주세요!>> 구독하러 가기