본문 바로가기

딥페이크5

AI, 믿을 수 있을까? 현실과 환상의 경계! 할루시네이션(환각), 창작 주의 AI, 믿을 수 있을까? 현실과 환상의 경계! 할루시네이션(환각), 창작 주의 요즘 AI가 만들어내는 정보와 콘텐츠는 눈을 의심하게 만들 만큼 그럴듯합니다. 그런데, 그중엔 실제가 아닌 환각 같은 정보들도 섞여 있다는 사실, 알고 계셨나요? AI가 똑똑하다고만 믿었다간 낭패를 볼 수 있습니다. 지금부터 AI 환각과 창작의 세계를 낱낱이 파헤쳐 보겠습니다. AI 환각, 그 정체는? AI 환각(Hallucination)이란 AI가 실제로 존재하지 않는 정보를 마치 진짜처럼 생성하는 현상을 말합니다. 예를 들어, 조선왕조실록에 '세종대왕 맥북 던짐 사건'이 기록되었다고 답하거나, 구글 AI가 '뒤구르기 하는 여성'을 그렸는데 머리가 두 개 달린 기괴한 이미지가 나오는 것이 대표적입니다. 그.. 2025. 5. 17.
딥페이크에 낚인 사회, AI발 성범죄의 민낯! - 집중단속 후 오히려 증가? 딥페이크에 낚인 사회, AI발 성범죄의 민낯! - 집중단속 후 오히려 증가? 누구나 피해자가 될 수 있는 시대다 딥페이크 성범죄는 선택형이 아니다. SNS에 사진 하나만 올려도 그게 불쏘시개가 될 수 있다. 연예인만 노리는 줄 알았는데, 이제는 일반인, 학생, 심지어 내 친구도 대상이 될 수 있는 상황이다. ‘나는 괜찮겠지’라는 안일한 생각은 금물이다. 디지털 세상에서의 나도 보호받아야 할 존재다. 텔레그램이 문제다, 아주 많이! 텔레그램은 익명성과 폐쇄성의 끝판왕이다. 이 특성이 딥페이크 유통의 메카로 자리잡게 만들었다. 최근엔 경찰과 공조로 주요 총책도 검거되었다고 한다. 하지만, 여전히 운영되는 다크한 방들이 존재한다. 이건 앱 하나의 문제가 아니다. 익명이라는 방패 뒤에 숨은 범죄가.. 2025. 4. 18.
생성형 AI, 딥페이크 범죄의 조력자로 전락하다 🚨 AI, 딥페이크 범죄의 조력자로 전락하다 🚨  🔗 공유와 보상, 딥페이크 범죄 확산의 촉매제 🔗 인공지능 챗봇이 딥페이크 성 착취물 공유를 유도하고, 이를 통해 얻은 '토큰', '크레딧', '캐럿' 등의 보상으로 더 많은 범죄를 부추기는 충격적인 현실이 드러났습니다. 마치 다단계 방식처럼, 더 많은 이용자를 끌어들일수록 범죄의 기회가 늘어나는 구조입니다.   ❌ 솜방망이 처벌, 딥페이크 범죄 근절 어렵다 ❌ 사회적 논란에도 불구하고 딥페이크 범죄는 끊이지 않고 있습니다. 텔레그램 '링공방'과 '겹지방' 등의 대화방은 삭제와 생성을 반복하며 더욱 음지로 숨어들고 있습니다. 심지어 개인정보 유출, SNS 해킹 등 범죄의 수위는 점점 높아지고 있습니다.    😱 나도 피해자가 될 수 있다, 딥페이.. 2024. 8. 28.
딥페이크 악몽, 현실이 되어버린 텔레그램 사건 - AI 기술 악용 대학교로부터 발발한 딥페이크 음란물 합성 범죄로 사회가 들썩이고 있습니다. AI 기술을 악용해서 누구나 만들어낼 수 있는 합성 이미지/영상이 문제가 되었습니다.  ☞ 딥페이크란?인공지능(AI) 기술을 이용하여 사람의 얼굴, 목소리, 또는 몸짓을 조작하여 실제와 매우 유사한 가짜 영상을 만드는 기술    📸 일상 사진이 범죄 도구로 텔레그램 단체 대화방에서 여성들의 SNS 사진을 훔쳐 음란물과 합성하는 딥페이크 범죄가 기승을 부리고 있습니다. 딥페이크 기술의 발달로 인해 누구나 쉽게 딥페이크 영상을 제작할 수 있게 되면서 범죄의 문턱이 낮아졌습니다.   🏫 학교·지역별 딥페이크 대화방인하대 사건 이후, 전국 각지 학교를 중심으로 딥페이크 대화방이 우후죽순 생겨나고 있습니다.피해자들은 대학생뿐 아니라 중.. 2024. 8. 26.
고도화, 지능화 되는 학교 폭력의 심각성과 대응책 고심 [학교 폭력의 심각성과 대응책 마련 필요] 1. 학교 폭력의 현황과 심각성 최근 서울 경찰청이 발표한 '청소년 범죄·학폭 분석' 보고서에 따르면, 올해 상반기 학교 폭력 신고 건수가 전년 동기 대비 7.7% 증가하여 4688건에 달했습니다. 이 중 성폭력 및 성희롱 관련 신고가 162% 급증하면서 그 심각성을 더하고 있습니다. 특히 딥페이크 기술을 악용한 청소년 성범죄도 확산되고 있어 이에 대한 적극적인 대응이 요구됩니다. 또한 학교 폭력 발생 장소는 학교 안보다 학교 밖에서 더 많이 발생하고 있으며, 이는 사이버 학교폭력의 증가와도 관련이 있습니다.  2. 학교 폭력의 유형과 사례 대표적인 사례로는 전동 킥보드 셔틀 사건이 있습니다. 중학생들이 초등학생의 휴대전화를 강제로 빌려 킥보드 애플리케이션에 로.. 2024. 7. 23.

티스토리툴바