AI로 만든 커버곡, 문제없을까?
마부뉴스 CHART & DATA & SOURCE
마부뉴스에서 사용된 데이터와 원 출처를 확인할 수 있는 공간입니다. Graphic Details에서는 레터에서 간단하게 소개된 그래프를 조금 더 자세하게 설명해드립니다. Data에서는 레터에서 활용한 다양한 데이터 소스들을 확인할 수 있습니다. 직접 데이터를 가지고 분석에 활용해보세요. Articles & News에는 마부뉴스가 레터를 쓰면서 참고한 논문 및 보고서, 기사 목록을 담아두었습니다. 궁금한 부분이 있다면 댓글을 남겨주세요.
Graphic Details
Generative AI Timeline
데이터 사이언티스트 David Foster가 linkedin에 공개한 자료입니다.
2014년부터 2023년까지 주요한 생성형 AI 모델의 역사를 확인할 수 있습니다.
2014년부터 2017년까지는 VAE 및 GAN의 시대였습니다.
2018년부터 2019년은 Transformer의 시대입니다. Transformer 이후 LLM이 구축되기 시작합니다.
2020년 이후부터는 다양한 모델링이 병합되기 시작합니다.
AI 시장 규모 전망
글로벌 시장조사기관인 프레지던스 리서치(Precedence Research)의 자료입니다.
전 세계 인공지능(AI) 시장 규모는 2022년 4,541억 2,000만 달러였으며 2023년부터 2032년까지 연평균 19%의 성장률을 기록하며 2032년에는 약 2조 5,751억 6,000만 달러에 이를 것으로 전망됩니다.
북미 인공지능 시장 규모는 2022년 1,673억 3,000만 달러로 평가되었습니다.
Freedom on the Net
인권 단체인 프리덤하우스(Freedom House)가 지난 10월 4일 인터넷 자유에 대한 보고서 ‘Freedom on the net(프리덤 온 더 넷)’ 발표했습니다.
프리덤 온 더 넷 보고서에는 총 47개국에서 친정부 논객들이 온라인 토론을 조작한 문서화된 사례를 확인할 수 있습니다.
미얀마: 군부가 강력한 허위 정보 조직을 운영, 수천 명의 군인에게 친정권 메시지 확대, SNS에서 비판자들을 괴롭히도록 명령
키르기스스탄: 한 정당은 블로거와 고등학생을 고용하여 소셜 미디어에 선전을 게시하도록 함. 한 그룹은 하루에 150개의 가짜 프로필을 생성하는 AI 생성 봇 네트워크에 35만 달러를 지불
앙골라: 마인드 포스라는 회사는 앙골라에서 집권당을 지지하는 글을 게시하는 계정 네트워크를 운영. 마인드 포스의 한 직원은 정부가 고객이라고 공개적으로 밝히기도.
프리덤하우스는 이미지, 텍스트 또는 오디오를 생성할 수 있는 AI 기반 도구가 정치적 또는 사회적 이슈에 대한 정보를 왜곡하는 데 사용된 16개 국가를 확인했습니다.
브라질 : 2022년 10월 브라질 대선 결선 투표를 앞두고, 당시 자이르 보우소나루 대통령이 여론조사에서 선두를 달리고 있다고 보도한 딥페이크 동영상이 온라인에 퍼졌음
프랑스: 2023년 3월 대규모 시위 당시 에마뉘엘 마크롱 대통령을 비방하는 댓글과 함께 한 노인이 경찰에게 구타당하는 AI로 조작된 이미지가 온라인에 유포
나이지리아: 나이지리아의 한 대선 후보가 투표를 조작할 계획이라고 주장하는 AI 조작 오디오 클립이 SNS를 통해 확산
Nightshade
시카고 대학교 벤 자오 컴퓨터 공학과 교수 연구팀의 논문입니다.
나이트셰이드는 이미지의 픽셀을 미세하게 바꿔서 머신러닝 모델을 속입니다.
나이트셰이드를 적용한 이미지가 학습 데이터로 수집될 경우 오염된 픽셀이 AI 모델의 오작동을 일으켜 개가 고양이로, 모자가 토스터로, 자동차가 소로 변하게 됩니다.
Data
Articles
Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models
Measuring trends in Artificial Intelligence_Stanford University
News
China has a new plan for judging the safety of generative AI
What’s the future of generative AI? An early view in 15 charts