특정 주제에 구애받지 않고 자유롭게 이용하실 수 있습니다.
- 20240528ax08S_o.jpg (100.1KB)
컴퓨터 프로그래밍언어는 매우 어려운 전문적인 영역이고, 그 프로그래밍의 소산으로 태어나는 소프트웨어 또한 기술의 결정체죠. 즉 유용한 애플리케이션도 유해한 컴퓨터 바이러스나 해킹툴 같은 것도 전문가의 손에서 태어나 왔던 것인데 그 패러다임(Paradigm) 자체가 그대로 깨졌어요. 이제는 전문지식이 없는 사람도 생성AI를 이용하여 그런 유해한 것을 만들어 낼 수 있는 시대가 드디어 열렸으니까요.
일본에서 일어난 사건 하나를 살펴볼께요.
전말은 대략 이렇게 파악가능해요.
이미지 출처
(생성AI로 바이러스 작성용의 남성을 채포 "편하게 돈벌고 싶었다" - 우회질문으로 회답을 이끌어내다 - 경시청, 2024년 5월 28일 지지통신 기사, 일본어)
문제의 인공지능 컴퓨터바이러스는 이렇게 3단계로 이루어졌어요.
1단계. 용의자가 바이러스 작성에 대해 여러 생성AI에 질문을 실시한다.
2단계. 그 질문을 받은 생성AI가 바이러스의 설계정보를 회답한다.
3단계. 그렇게 취득된 정보를 바탕으로 바이러스를 만든다.
그렇게 부정지령전자적기록작성(不正指令電磁的記録作成) 용의로 경시청 사이버범죄대책과에 체포된 25세의 하야시 류키(林琉輝) 용의자는 이전에 공장에서 작업원으로 일한 경력이 있을 뿐 전문적 지식을 갖추지는 않은 인물이었어요. 그나마 다행인 것은 그가 "편하게 돈벌고 싶어서 만들었다" 고 혐의를 인정한데다 그렇게 생성된 랜섬웨어(Ransomware)로 피해가 확인된 사례가 없는 점일까요.
비전문가가 AI를 통해서 이런 것을 만들었다는 것도 놀랍지만 특히 주의해야 하는 사항이 있어요. 지금까지 개발된 여러 생성AI가 각종 범죄로 이어질 수 있는 내용에 대해서 회답하지 않도록 대책이 강구되어 왔지만 그것도 작정하고 회피를 시도하는 사람에게는 무력하다는 것. 1년 전에 챗GPT를 이용해 본 결과를 소개한 글인 실제 사용으로 검증해 본 ChatGPT의 여러 맹점에서 지적된 "변화구에 맥없이 당하는" 문제는 이렇게 무섭게 현실로 나타나 있어요.
생성AI의 막강함은 이미 여러 사례로 드러나고 있고 포럼에서도 아트홀에 소개된 DDretriever님의 AI로 그려보자 시리즈로 실감할 수 있어요. 게다가 국내의 광고에도 그 사례가 있어요. 서울우유의 광고에 등장하는 배우 박은빈(朴恩斌, 1992년생) 및 그녀를 닮은 딥페이크 AI로 생성된 소녀들. 처음에는 "박은빈을 닮은 아역배우를 연령대도 다른데 3명씩이나 섭외가능했나?" 라고 생각했는데 그게 아니라는 것을 알고 놀랐어요.
이 영상이 바로 AI의 힘으로 만들어진 것이죠.
역시 확실히 느끼는 게 있어요.
같은 물이라도 소가 마시면 우유가 되고 독사가 마시면 독이 된다는 것.
그리고, 비전문가라도 위험한 소프트웨어를 만들 수 있는 시대가 시작된만큼 생성AI에 요구되는 것이 많아요. 정말 Artificial Intelligence로서 공헌할지, Artificial Insanity로 폭주하게 될지.
Co-founder and administrator of Polyphonic World
목록
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 공지 |
단시간의 게시물 연속등록은 권장되지 않습니다 |
2024-09-06 | 171 | |
| 공지 |
[사정변경] 보안서버 도입은 일단 보류합니다 |
2024-03-28 | 174 | |
| 공지 |
타 커뮤니티 언급에 대한 규제안내 |
2024-03-05 | 200 | |
| 공지 |
2023년 국내외 주요 사건을 돌아볼까요? 작성중10 |
2023-12-30 | 362 | |
| 공지 |
코로나19 관련사항 요약안내612 |
2020-02-20 | 3865 | |
| 공지 |
설문조사를 추가하는 방법 해설2
|
2018-07-02 | 1003 | |
| 공지 |
각종 공지 및 가입안내사항 (2016년 10월 갱신)2 |
2013-08-14 | 5975 | |
| 공지 |
문체, 어휘 등에 관한 권장사항 |
2013-07-08 | 6598 | |
| 공지 |
오류보고 접수창구107 |
2013-02-25 | 12092 | |
| 17 |
가입했습니다10 |
2013-02-28 | 219 | |
| 16 |
포럼의 규정을 나름대로 요약해보기5 |
2013-02-28 | 416 | |
| 15 |
일 베티사드(Ill Bethisad) 속의 한국21 |
2013-02-28 | 991 | |
| 14 |
한낮의 포럼이 조용한것을 보고 벗헤드가 가로되....7 |
2013-02-28 | 166 | |
| 13 |
아아... 포럼에 글이 가득해...2 |
2013-02-28 | 241 | |
| 12 |
피곤하네요...3 |
2013-02-28 | 287 | |
| 11 |
다들 안녕하세요3 |
2013-02-28 | 249 | |
| 10 |
안녕하세요5 |
2013-02-27 | 286 | |
| 9 |
안녕하세요 대강당 운영진 하네카와츠바사입니다8 |
2013-02-27 | 343 | |
| 8 |
기지개 한번 잘못했더니 명치에 데미지 ㅇㅅㅇ2 |
2013-02-27 | 480 | |
| 7 |
설정을 시각화...그것도 대체 역사물이라면 가장 짜증나는게 있죠.5
|
2013-02-27 | 207 | |
| 6 |
야구팀 동물이름 이야기9 |
2013-02-27 | 525 | |
| 5 |
안녕하세요2 |
2013-02-26 | 198 | |
| 4 |
시간이 멈췄으면 좋겠어요 lllOTL8 |
2013-02-26 | 214 | |
| 3 |
저 또한 초대 받아서 나타난 ㅇㅅㅇ!3 |
2013-02-26 | 218 | |
| 2 |
회원가입 감사인사 및 여러가지10 |
2013-02-25 | 356 | |
| 1 |
쪽지 받고 들어와봅니다.3 |
2013-02-25 | 196 |
2 댓글
대왕고래
2024-05-30 20:35:12
AI가 대단하긴 대단해요. 저희 회사는 소프트웨어 하는 사람들도 구글검색하는 감각으로 챗GPT 도움 받아서 코딩한다고 하던데요.
인류의 두번째 뇌는 스마트폰, 인류의 세번째 뇌는 AI일지도 몰라요. 대단한 혁신이에요.
그런데 이런 사례를 보면, 이게 제어 가능한 혁신인지는 모르겠네요...
마드리갈
2024-05-30 21:28:17
제어 가능한 혁신...정말 중요한 개념이예요.
이탈리아의 유명 타이어 제조사이자 매년 발행하는 달력에 세계적인 섹시한 여성모델들을 기용하는 것으로도 유명한 피렐리(PIRELLI)의 슬로건이 "힘이란 제어되어야 하는 것(Power is nothing without control)" 이죠. 아무리 잘 달릴 수 있는 자동차라도 직접 노면에 닿아서 구동력을 지면에 전달하는 타이어가 엉망이면 아무것도 안된다는 것을 잘 나타냈어요. 인공지능 또한 예외가 될 수 없을 거예요.
새로운 문물에는 순기능도 역기능도 있어요. 이제 그 역기능을 제어하는 게 중요해져요.