`AI 민주화` 약인가 독인가…`오픈소스 AI` 뜨거운 논쟁 [테크&포커스]

입력 2023-09-17 10:09

"챗GPT나 바드에 성능이 뒤지지 않으면서 더 가볍게 쓸 수 있고 비용부담이 없다."

오픈AI·MS(마이크로소프트) 진영과 구글이 초거대AI(인공지능) 경쟁의 승자가 되기 위해 치열한 경쟁을 벌일 때 조용히 두 진영을 추격해온 그룹이 있다. 바로 오픈소스 AI다.
AI의 오픈소스화를 둘러싼 논쟁이 뜨겁다. 오픈소스는 SW(소프트웨어)의 소스코드를 일반에 공개해 누구나 활용할 수 있도록 공유하는 것을 의미한다. 특정 기업이나 개인이 독점적 소유권을 갖지 않는 만큼 누구나 기술에 접근해 필요에 따라 변형해서 쓸 수 있다. 이미 SW 기업과 개발자들 사이에서는 SW 개발의 생산성을 높이고 집단지성을 발휘하는 유용한 도구로 폭넓게 활용되고 있다.

◇AI의 민주화? 기술의 위험한 확산?

세계 모든 개발자에 공개된 오픈소스 AI는 소수 빅테크에 AI가 독점되는 상황을 막아줄 것으로 기대를 모은다. 그러나 공유와 공개의 대상이 AI라는 데서 격론이 벌어진다. AI가 갖는 파괴력 때문이다. 마치 핵무기나 백신 같은 중요하고도 치명적인 무기가 대중의 손에 주어진 것 같은 파괴적인 결과로 이어질 수 있다는 우려가 나온다.

"오픈소스는 더 많은 개발자가 새로운 기술을 쓸 수 있도록 해줌으로써 혁신을 촉진한다. SW가 공개되면 더 많은 사람들이 검토해 잠재적인 문제를 파악하고 고칠 수 있기 때문에 안전성과 보안성도 향상된다."

지난 7월 마크 저커버그 메타 CEO가 오픈소스 초거대AI LLM(대규모언어모델) '라마2(LLaMA2)'를 발표하면서 한 말이다. 집단지성을 발휘하는 오픈소스의 힘이 AI의 혁신 속도를 훨씬 빠르게 해주는 동시에 기술의 완성도도 높여줄 수 있다는 주장이다.

오픈AI의 공동 창립자이자 수석과학자인 일리야 수츠케버의 생각은 다르다. 그는 "AI 모델은 현재도 매우 강력하며 점점 더 강해지고 있다. 어느 시점에는 마음만 먹으면 이를 이용해 엄청난 피해를 입히는 것이 아주 쉬워질 것"이라며 이전에 오픈AI가 취했던 기술 개방 정책은 실수였다고 말했다.

◇오픈소스 AI의 선봉에 선 메타

오픈소스 AI의 선봉에는 마크 저커버그가 이끄는 메타가 있다. MS와 손잡은 오픈AI, 구글 같은 전통적인 AI 강자들이 AI 기술 전략을 개방에서 폐쇄로 바꾼 가운데 후발주자인 메타는 오픈소스화와 모델 크기 다양화를 무기로 빠른 추격에 나섰다.

초거대AI LLM '라마'와 '라마2'를 오픈소스로 공개한 데 이어 8월에는 새로운 코드 생성 AI 모델 '코드 라마'도 오픈소스로 공개했다. 코드 라마는 오픈AI의 GPT3.5보다 성능이 우수하고 GPT4.0에 가깝다는 평가를 받는다. 이후 메타의 라마2를 바탕으로 다양한 파생 AI가 등장하고 있다.

메타는 오픈AI의 GPT4.0을 제치는 것을 목표로 라마3도 개발 중이다. 초거대AI의 성능은 매개변수(파라미터)의 수가 좌우하는데, GPT4.0은 1조개가 넘는 것으로 추정된다. 메타는 매개변수가 700억개에 그치는 라마2와 달리 라마3에서 매개변수를 획기적으로 높일 계획이다. 월스트리트저널은 "AI 시장에서 상대적으로 뒤졌던 마크 저커버그 메타 CEO가 오픈소스화와 무료화라는 전략을 통해 전세를 뒤집으려 한다"고 분석했다.
◇빌 게이츠도, 샘 알트만도 오픈소스 경계론

오픈소스 AI의 세가 커지면서 AI 업계와 전문가들 사이에서는 경계론이 커지고 있다. 지난 13일(현지시간) 척 슈머 미 상원 원내대표(민주당)가 개최한 'AI 인사이트 포럼'에서도 오픈소스 AI가 이슈로 떠올랐다. 이 자리에는 일론 머스크 테슬라 CEO, 마크 저커버그 메타 CEO, MS의 빌 게이츠 창립자와 사티아 나델라 CEO, 샘 알트만 오픈AI CEO, 순다르 피차이 구글 CEO, 젠슨 황 엔비디아 CEO 등 AI 대표 기업 수장들이 모였다. 미 상원의원 60여명도 참석했다.

저커버그는 이 행사에서 "오픈소스 AI는 AI 도구에 민주적으로 접근할 수 있게 하고 공평한 경쟁의 장을 만들어준다. 이는 혁신을 촉진시키는 효과를 가져올 수 있다"고 긍정론을 펼쳤다. 그러나 이를 지지하는 의견은 많지 않았다.

이 행사에서 빌 게이츠 MS 창립자는 "AI가 세계 빈곤문제를 해결하는데 도움이 될 수 있다"면서도 "AI가 오픈소스를 통해 잘못된 정보나 유독물질을 퍼뜨릴 수 있다"고 우려했다. 알트먼 CEO와 피차이 CEO도 의견을 같이했다. 이들은 "누구나 허위 정보, 유해한 자료를 만들어 퍼뜨릴 수 있게 된다"고 우려를 나타냈다.

행사에 참석한 비영리단체 인도적기술센터(Center for Humane Technology)의 트리스탄 해리스 공동 창립자도 약간의 돈과 몇 시간의 작업으로 라마2에서 안전 제어기능을 없앨 수 있었고, AI가 생물학적 무기를 개발하라는 지시에 응답했다면서 위험성을 경고했다. 이에 대해 저커버그 CEO는 그런 무기 제조법은 이미 인터넷에도 나와 있고 누구나 찾을 수 있으며, 최대한 기술을 안전하게 구현할 것이라고 반박했다. 그러자 게이츠 창립자는 온라인에서 무언가를 검색하는 것과 AI 기반 모델과 상호작용하는 것에는 현격한 차이가 있다고 선을 그었다.

행사가 끝난 후 저커버그 CEO는 공식 입장을 통해 "우리는 오픈소스에만 매달리는 것은 아니다. 폐쇄형 모델도 장점이 있다고 보지만, 개방적인 접근 방식이 많은 가치를 만들어낸다고 생각한다"고 밝혔다. 해리스는 공식 입장을 통해 메타가 오픈소스 모델을 공개함으로써 "전 세계를 대상으로 무엇이 '안전한지'를 일방적으로 결정했다"고 밝혔다. 알트만 CEO는 "일부 오픈소스는 매우 훌륭하지만 일부는 미래에 우리가 원하는 방향으로 되지 않을 수 있다. 모델에 대한 면밀한 평가가 필요하다"고 밝혔다.

◇"투명성·안전성 절충점 찾아야"

오픈소스 AI 오용 사례는 이미 등장하고 있다. 오픈소스 AI 기반으로 만들어진 챗봇을 이용해 인종 비하, 고정관념 등 혐오 콘텐츠를 퍼뜨리는 시도가 이어지고 있다. 메타의 AI 관련 책임자이자 맥길대학 교수인 조엘 피노는 최근 인터뷰에서 "오픈소스 AI는 매우 다양한 이들이 개발에 기여함으로써 연구자, 기업가, 시민, 정부까지 AI 모델에 대한 가시성을 확보할 수 있다는 장점이 있다"면서도 "오픈소스AI의 투명성이 갖는 장점과 안전성 사이에서 절충점을 찾아야 할 것"이라고 말했다.

김형철 소프트웨어책연구소장은 "오픈소스 AI는 일반적인 오픈소스 SW보다 학습 데이터, 기반모델 학습코드, 미세조정 데이터, 미세조정 코드 등 공개대상 후보가 더 많고 어디까지 공개하느냐에 따라 미치는 여파도 달라질 것"이라면서 "라마2는 기반모델 학습코드만 공개해서 반쪽 공개라는 지적도 있다"고 말했다. 이어 "대형 LLM은 공개해도 전문가와 컴퓨팅 파워 문제로 사용자 층이 제한되겠지만 경량 LLM은 공개 시 혜택을 보는 층이 많고 기술확산, 투명성의 장점이 제대로 발휘될 가능성이 있다"고 짚었다. 김 소장은 "오픈소스 AI가 제대로 가치를 발휘하려면 '선함'이 전제돼야 한다. 그 전제 위에서 일부가 아닌 전체를 공개해야 제대로 된 판이 만들어질 수 있을 것"이라고 밝혔다. 안경애기자 naturean@dt.co.kr

가장 많이 본 기사