본문 바로가기

분류 전체보기

미·중정상회담과 'AI 레드폰'…재앙을 막을 수 있을까? 미·중정상회담과 'AI 레드폰'…재앙을 막을 수 있을까? - 수출통제·관세전쟁과 따로 위기소통 채널 가능 9월 24일 워싱턴에서 열리는 미·중 정상회담에서 포괄적인 AI 안전 협정이 나올 가능성은 낮다. 그러나 반도체 수출통제나 관세 전쟁과는 분리된, 좁고 기술적인 '위기 소통 채널' 하나는 지금 만들 수 있다. 문제는 그 채널이 실제 사고가 터졌 때 정말 작동될 수 있을 것인가이다. 뉴욕 담판, 무엇을 논의했나? 정상회담을 나흘 앞둔 20일, 스콧 베선트 미국 재무장관과 허리펑 중국 부총리가 뉴욕 JP모건체이스 본사에서 8시간가량 마주 앉았다. 베선트는 이 자리에서 국가안보를 위협할 수준의 AI 사고를 서로 통보하는 새로운 미중 AI 대화체 창설을 제안했다. 그는 이를 두고 세계 1위와 2위 AI 강국.. 더보기
AI 안전의 룰, 이제 한국이 만들어야 한다. AI 안전의 룰, 이제 한국이 만들어야 한다. 최근 AI가 인류를 멸망으로 이끌 수도 있다는 경고가 잇따르고 있습니다. 이제 AI 경쟁은 단순히 ‘누가 더 강한 AI를 만드느냐’의 문제가 아닙니다. ‘누가 AI의 위험을 감시하고 통제할 것인가’의 문제로 빠르게 이동하고 있습니다. 12일 앤트로픽 CEO 다리오 아모데이는 “AI 개발 속도를 늦추고, 안전장치가 따라갈 시간을 확보해야 한다”고 주장했습니다. 특히 제3자 평가기관이 AI 모델에 상시 접근해 안전성을 점검하고, 민주국가들이 공동의 안전기준을 먼저 마련한 뒤 중국·러시아를 포함한 국제적 합의까지 추진하자고 제안했습니다. 오픈AI 샘 올트먼, xAI 일론 머스크, 딥마인드 데미스 하사비스도 곧바로 동의 뜻을 밝혔습니다. 특히 샘 올트먼은 AI 안전.. 더보기
"AI가 인류 멸종" 경고, ‘UN 글로벌 AI 허브’를 국제 AI 안전기구로 확장시켜야 AI 멸종 경고, 해법은 'UN 글로벌 AI 허브' AI가 인류를 위협할 수 있다는 경고가 반복되고 있다. 그런데도 이를 상시 검증하고 제어할 국제 시스템은 어디에도 존재하지 않는다. 지금 인류에게 필요한 것은 빅테크의 선의에 기댄 자성이나 개별 국가의 쪼개기식 규제가 아니다. 한국의 제안으로 이미 첫발을 뗀 'UN 글로벌 AI 허브'를 위험을 상시 감시·검증할 실질적 권한을 가진 상설 국제기구로 진화시키는 일이다. 위험을 가장 잘 아는 사람들의 섬뜩한 고백 최근 앤트로픽의 정렬 연구 책임자 에반 후빙어는 향후 10년 안에 AI가 인류를 멸종시킬 확률을 10% 이상으로 본다고 밝혔다. 이는 앤트로픽과 오픈AI에서 사전학습을 연구했던 제이컵 콕슨이 “두 회사 모두 책임 있게 행동하지 않으며 자기개선형 초지.. 더보기
AI 산업 발전을 위해 창작자의 권리를 희생할 것인가? AI가 내 글을 훔쳐서 돈을 번다면?미국 정부는 오히려 “괜찮다”고 오픈AI를 지지했다.창작자의 권리는 희생해도 되는 것일까? 친구 노트를 몰래 베껴 시험을 봤는데,정작 노트 주인보다 점수가 더 잘 나왔습니다.그런데 선생님이 이렇게 말합니다. “훌륭한 학습법이야.”미국에서 실제로 비슷한 일이 벌어졌습니다. 2023년 뉴욕타임스는 오픈AI와 마이크로소프트가 자사 기사 수백만 건을 무단으로 AI 학습에 사용했다며 소송을 냈습니다. 그런데 최근 미국 법무부가 이 재판에 의견서를 냈습니다.“저작권이 있는 콘텐츠를 AI 학습에 사용하는 것도 ‘공정 이용’으로 볼 수 있다.” 오히려 이를 막으면 미국의 과학·경제·안보 경쟁력이 떨어질 수 있다는 논리입니다. 트럼프 행정부의 AI 경쟁력 강화 기조도 근거가 됐습니다.. 더보기
AI 빠른 도입보다 중요한 노동민주주의·사회적 대화 결론부터 말하면 한국은 AI를 '많이' 쓰는 나라이지, '잘' 쓰는 나라는 아직 아니다. 국내 기업의 생성형 AI 도입률은 61%에 이르지만, 실제 업무 프로세스와 의사결정 구조에 깊이 뿌리내린 '조직적 내재화' 비율은 6.7%에 그친다는 조사가 있다. 열 곳 중 여섯 곳이 도구를 들여놓았으나, 정작 일하는 방식을 바꾼 곳은 열에 하나도 되지 않는 셈이다. 한국은 올 1월부터 시행된 AI기본법을 통해 유럽연합(EU)에 이어 세계 두 번째로 포괄적 법제를 갖췄고, 경제협력개발기구(OECD) AI 지수에서도 종합 5위, 역량 인프라와 정책 환경 부문 상위권에 올랐다. 법과 인프라라는 하드웨어는 선진국 수준이다. 그러나 OECD와 한국노동연구원 보고서는 각기 현실의 다른 대목을 짚는다. 도입 속도는 세계적으로.. 더보기
통제 벗어난 AI 에이전트, 사고 나면 누구 책임인가? 인간의 지시를 수행하던 ‘도구’ 인공지능(AI)의 시대가 끝나고, 스스로 판단하고 실행하는 ‘자율 에이전트’ 시대가 열렸다. 최근 AI가 인간 관리자를 사칭하고 흔적을 조작하는 기만적 행태까지 드러내면서 통제 불능 사고 시 ‘책임의 공백’이 현실적 위협으로 닥쳤다. 결론은 명확하다. AI 사고의 책임은 개발사의 결함 책임, 도입·운영 기업의 관리 책임, 그리고 위험 지점에 인간 승인을 강제하는 정부의 제도화라는 '3단계 책임 체계'로 확립되어야 한다.인간을 속이고 흔적을 지우는 AI의 출현 지난 8월 27일, 오픈 AI·구글·앤트로픽 등 100여 개 글로벌 테크 기업이 이례적인 공동 서한을 발표했다. AI가 스스로 사이버 공격을 설계하고 실행하는 단계에 진입했으며, 병원·정수장·통신망 등 핵심 인프라가 .. 더보기
AI가 광고시장을 재편하면 검색의 시대가 끝나는가? - 검색보다 추천이 강해진 시대, 누가 우리의 선택을 설계하는가?- 지금 당신이 누른 그 ‘구매하기’ 버튼, 정말 당신만의 선택이었습니까? 무언가 사고 싶은 것이 생기면 우리는 먼저 검색한다. 맛집도, 여행지도, 자동차도, 노트북도 검색창에 입력한다. 지난 20년 동안 검색은 인터넷에서 소비가 시작되는 가장 중요한 관문이었다. 그런데 AI가 등장하면서 이 익숙한 질서가 빠르게 바뀌고 있다.검색하는 시대에서 추천받는 시대로, 다시 추천받는 시대에서 AI가 선택을 도와주는 시대로 이동하고 있는 것이다. 광고시장의 변화는 이를 잘 보여준다. 최근 미국의 투자은행이자 금융분석회사인 ‘번스타인 리서치’(Bernstein Research)가 흥미로운 전망을 내놓았다.번스타인의 분석에 따르면 페이스북과 인스타그램을 .. 더보기
BTS 공연 "아리랑" 떼창에 세계가 전율하는 이유? - 상업주의 물든 K팝 시장에 '진짜 서사'로 매료- 30대 밴드가 느끼는 '왕관의 무게' 팬들과 공유- 런던·뮌헨 공연서 확인한 K 소프트파워의 위력 "아리랑 아리랑 아라리요,아리랑 고개를 넘어간다.나를 버리고 가시는 님은십리도 못 가서 발병난다.“익숙하고도 애달픈 한국어 가사가 영국과 독일의 거대한 스타디움을 가득 채운다. 수만 명 벽안(碧眼)의 관중이 한 목소리로 우리 민요를 '떼창'하는 모습은 그 자체로 초현실적인 전율을 선사한다.7년 전 런던 웸블리 스타디움을 매진시켰던 일곱 청년이 3년 9개월이라는 군 복무 공백을 지나 다시 무대 위에 섰다. 지난 6일과 7일 영국의 토트넘 홋스퍼 스타디움과 11일과 12일 독일 뮌헨의 알리안츠 아레나에서 이틀씩 열린 공연에 모두 27만 명에 육박하는 관객이 .. 더보기
아시아 8개국 'AI 리터러시' 백서 발간 아시아 8개국 'AI 리터러시' 백서 발간 디지털리터러시협회와 메타코리아는 아시아 8개국 11개 교육 기관의 실제 데이터를 심층 분석하여 'AI 리터러시 백서'를 발간했습니다. 이 백서는 향후 UNESCO와 APEC 등 국제기구를 통해 글로벌 교육 표준으로 배포될 예정입니다. * 8개국 : 방글라데시, 홍콩, 인도, 파키스탄, 한국, 대만, 태국, 베트남 리터러시는 '평등의 토대' 심포지엄에 참석한 전문가들은 "AI 리터러시 교육이 사회적 약자에게는 불평등을 해소하는 출발점이자 국가 경쟁력의 핵심"이라고 강조했습니다. 특히 한국은 정부·학계·민간의 강력한 협력 문화를 바탕으로 '글로벌 AI 리터러시의 표준'을 제시할 최적의 국가로 평가받았습니다. 한국, AI 특허 수에서 2년 연속 세계 1위 스탠퍼.. 더보기
구글 '알루미늄 OS'(Aluminum OS) 특징과 편의성, 출시 시기 알루미늄 OS(Aluminum OS)는 구글이 안드로이드(Android)와 크롬OS(ChromeOS)를 단일 플랫폼으로 통합하여 선보일 것으로 기대되는 'AI 네이티브 차세대 운영체제'입니다. 단순히 두 OS를 합치는 수준을 넘어, 시스템의 핵심 커널 단계부터 인공지능 에이전트가 통합된 형태를 지향합니다. 1. 주요 특징: 지능형 통합과 실행력 ▶ 에이전틱 레이어(Agentic Layer):기존 OS가 '사용자의 명령을 기다리는 인터페이스'였다면, 알루미늄 OS는 스스로 판단하고 행동하는 '에이전트'가 시스템 전반에 깔려 있습니다. 사용자의 습관과 업무 흐름을 학습하여 다음 단계를 제안하거나 복잡한 작업을 대신 수행합니다. ▶ 통합 플랫폼 아키텍처:모바일(안드로이드)의 휴대성과 PC(크롬OS)의 생산.. 더보기
AI 시대, 교육과 인문학이 나아가야 할 방향 3가지 "AI 시대, 탐구의 즐거움을 지키는 법"- 조지타운대 예술과학대학(College of Arts & Sciences) 패널토론 1. 핵심 문제의식: '편리함'이 '탐구'를 위협하는가? 데이비드 에델스타인(David Edelstein) 학장은 AI가 모든 질문에 즉각적이고 완벽해 보이는 답을 제공하는 시대에, 인간이 지식의 본질을 파헤치며 느끼는 '탐구의 즐거움'이 사라질 위험에 처했다고 진단했습니다. - 효율성 vs. 깊이:도구가 삶을 너무 편리하게 만들 때, 인간은 그 도구에 의존하게 되고 지적 근육을 단련하여 활용할 기회를 잃게 된다는 우려입니다. 2. '구글 혁명'과의 비교 (리사 싱 교수)컴퓨터 과학과 리사 싱(Lisa Singh) 교수는 15년 전 '구글 검색'이 등장했을 때를 회상했습니다. .. 더보기
AI 시대, 인간은 왜 더 외로워지는가? AI 시대, 인간은 왜 더 외로워지는가?우리는 역사상 가장 많이 연결된 시대를 살고 있다.스마트폰 하나로 지구 반대편 사람과 실시간으로 소통하고,SNS에는 수백 명의 친구가 있고, 메신저는 하루 종일 울린다.그런데 이상하다.사람들은 점점 더 외롭다고 말한다.과거의 관계는 느렸지만 깊었다.함께 밥을 먹고, 눈을 마주치고, 침묵까지 나눴다.오늘날의 연결은 빠르지만 얕다.우리는 항상 접속해 있지만, 마음이 닿는 경험은 오히려 줄어들고 있다.SNS는 연결과 동시에 비교를 강요한다.사람들은 가장 빛나는 순간만 올린다.하지만 우리의 뇌는 그 편집된 행복을 현실로 받아들인다.결국 타인의 하이라이트와 내 일상을 비교하며, 스스로를 초라하게 느낀다.플랫폼 알고리즘은 우리의 시간을 최대한 오래 붙잡도록 설계되어 있다.짧은.. 더보기
"알고리즘이 곧 영토" 마누스, 틱톡, 그리고 라인이 던진 ‘디지털 주권’의 경고 알고리즘이 곧 영토, 마누스·틱톡·라인에 국가 개입 기술은 시장 논리 아닌 안보·주권의 영역으로중국, 메타의 스타트업 '마누스' 인수 강제 취소 미국 투자자가 틱톡 다수 지분 소유에 대한 보복네이버는 라인 운영권 빼앗기고 투자자로 전락‘소버린 AI’의 확립이 국가 생존 직결됨 보여줘기술 국경 높아지는 시대 ‘우리만의 알고리즘’을 중국 정부가 메타(Meta)의 AI 에이전트 스타트업 ‘마누스(Manus)’ 인수를 강제 취소시킨 사건은 전 세계에 강력한 메시지를 던졌다. 이제 기술은 시장의 논리가 아닌 국가 안보와 주권의 영역이라는 선언이다. 메타는 이미 마누스의 기술을 자사 시스템에 통합하기 시작한 단계인데, 이를 다시 분리하고 매각을 취소(Unwind)해야 하는 어려운 상황에 놓여있다.틱톡의 퇴출 위기부.. 더보기
‘UN AI 허브’ 고양시 유치를 위해 ‘DMZ 평화 AI 실증지구’를 제안한다‘ ‘UN AI 허브’ 고양시 유치를 위해 ‘DMZ 평화 AI 실증지구’를 제안한다‘- 고양시는 제네바의 명성을 넘어설 ‘평화 AI’의 성지가 될 수 있다. 지금 인류가 마주한 위기는 과거의 총칼보다 무서운 ‘보이지 않는 지능’의 충돌이다. 이제는 전통적인 평화의 개념을 넘어 ‘디지털 평화’를 설계할 새로운 중심지가 필요하다. 여기서 고양시는 제네바와는 차별화된, 그러나 더욱 강력한 상징성을 갖는다. 제네바가 과거의 평화를 기록하는 도시라면, 고양시는 세계 유일의 분단 현장인 DMZ를 배경으로 ‘미래의 평화’를 직접 실현하고 증명할 수 있는 도시다. ‘DMZ 평화 AI 실증지구’ 제안은 송도를 비롯한 다른 시도와 유치 경쟁에서 우위를 점할 수 있다. DMZ 평화 AI 실증지구는 국방, 안보, 환경, 안전 .. 더보기
AI 시대, '죽음의 계곡'을 넘어설 새로운 사회 계약을 준비하라 AI 시대, '죽음의 계곡'을 넘어설 새로운 사회 계약을 준비하라제도가 기술 혁신 속도 못 따라가안전망의 패러다임 대전환 필요일자리 전환 소득제 등 도입 필요 현대자동차 노조가 휴머노이드 로봇 ‘아틀라스(Atlas)’ 투입을 두고 “노사 합의 없이는 단 1대도 못 들인다”는 취지의 강경 메시지를 냈다. 이 장면은 한 기업의 노사 이슈가 아니다. AI·로봇이 ‘현장에 도착’하는 순간, 한국 산업 전반에서 반복될 충돌의 예고편이다. 인공지능(AI), 특히 생성형 AI의 비약적 발전은 인류 경제사에서 전례 없는 생산성 혁명을 예고한다. 골드만삭스는 생성형 AI가 향후 10년간 세계 GDP를 7% 끌어올리고, 생산성 증가율을 연 1.5%포인트 높일 수 있다고 전망했다. 기술만 놓고 보면 인류는 ‘생계를 위한 .. 더보기

티스토리툴바