이 기사는 2024년 09월 10일 14시39분 thebell에 표출된 기사입니다

생성형 인공지능(AI)의 확산으로 편리해진 만큼 기술, 정보 등 유출에 대한 위험성도 높아졌다. 글로벌 기업에서 보안 분야에 투자를 확대하는 배경이다.

반도체, 가전 등을 주력으로 삼는 삼성전자도 마찬가지다. 삼성SDS와 협업을 통해 자사 업무 및 제품에 AI를 이식하면서 보안을 강화하는 작업을 병행하고 있다.

삼성전자가 10일 서울 R&D캠퍼스에서 개최한 '제8회 삼성 보안 기술 포럼(SSTF)'에서도 이같은 분위기가 드러났다. 2017년부터 매년 열린 SSTF는 올해 '생성형 AI와 함께하는 보안:생성형 지능과 함께 안전한 미래로'라는 주제로 진행됐다.

이날 전경훈 삼성전자 디바이스익스피리언스(DS)부문 최고기술책임자(CTO) 겸 삼성리서치장은 "빠르게 변화하는 기술 환경 중심에 AI가 있다는 건 모두가 동의할 것"이라며 "AI는 단순히 우리의 삶을 편리하게 만들어주는 동시에 보안 분야에서도 혁신을 가져오고 있다"고 말했다.

전 CTO는 AI 발전에서 비롯되는 개인정보보호 이슈에 대해 심도있는 논의가 필요하다는 견해를 내비치기도 했다.


같은 맥락에서 삼성전자는 관련 솔루션 개발에 인적·물적 자원을 투입하고 있다. 미국 정부가 주최하는 AI 보안 기술 경진대회 'AI 사이버 챌린지(AIxCC)'에서 선보인 AI 보안 시스템이 대표적이다.

AIxCC는 대규모 소프트웨어(SW)의 취약점을 찾고 개선하는 기술력을 경쟁하는 대회로 교통, 전력, 의료 등 사회 기반 시스템 안전을 위해 AI 기반 보안기술 개발을 촉진하자는 취지로 마련됐다. 미국 사이버보안 컨퍼런스 '데프콘(DEF CON)'과 연계된다.

삼성전자는 조지아텍, 뉴욕대학교, 카이스트(KAIST), 포스텍(POSTECH) 등과 연합팀(팀 애틀랜타)을 꾸려 출전했다. 자체 개발한 AI 보안 시스템 '아틀란티스'를 통해 보안 취약점을 자동 탐지하고 보안패치를 적용하는 기술력을 검증받았다.

이어서 지난달 미국 라스베이거스에서 펼쳐진 '데프콘 2024'에서 준결선을 통과했고 내년 8월 '데프콘 2025'에서 최종 결선에 참가할 예정이다.

연합팀을 이끈 김태수 삼성전자 삼성리서치 시큐리티&프라이버시팀 상무는 이날 SSTF 연설자로 나서 "생성형 AI 시대에 더 안전한 세상을 만들기 위한 도전을 이어가고 있다. 파이널을 준비하면서 자바 등 10개 프로그래밍 언어와 최적화하고 버그를 찾고 고치는 걸 자동화하는 작업에 집중하고 있다"고 설명했다.


삼성전자와 함께한 뉴욕대학교, 카이스트, 포스텍 등 관계자들도 발표자로 등장했다. 이중 브렌든 돌란 가빗 뉴욕대학교 컴퓨터공학부 교수는 "AI 활용이 취약점 탐지 등에 효과적이긴 하지만 새로운 위험 요소도 존재한다"면서 "챗GPT는 보안이 취약한 모델이다. 이를 개선하기 위한 솔루션이 필수적"이라고 언급했다.

윤인수 카이스트 교수는 '해킹을 알고 대비하는 안전한 세상과 AI가 사이버 보안의 미래에 가져올 변화', 박상돈 포스텍 교수는 신뢰할 수 있는 AI를 구축하기 위한 노력에서 얻은 교훈' 등을 공유했다.

앞서 삼성SDS는 생성형 AI 플랫폼 '패브릭스(FabriX)', 생성형 AI 기반 협업솔루션 '브리티 코파일럿(Brity Copilot)' 등을 선보였다.

패브릭스는 정보기술(IT) 자원을 생성형 AI와 연결하고 임직원들이 편리하게 공유 및 사용하도록 지원하고 브리티 코파일럿은 메일, 메신저, 미팅 등 공통 업무를 지원하는 '브리티 웍스(Brity Works)'에 생성형 AI 기술을 적용한 서비스다.

현재 삼성그룹은 삼성SDS의 생성형 AI 기술을 점차적으로 적용해나가고 있다. 이 과정에서 내부 정보가 외부로 새나갈 수 있는 것에 대한 우려가 있는데 아틀란티스를 비롯해 이번 SSTF에서 언급된 솔루션들이 이를 보완해줄 것으로 기대되고 있다.

더불어 가전 사업에서도 보안이 핵심 키워드 중 하나다. 삼성전자는 AI 가전 라인업 확장 차원에서 자체 보안 플랫폼 '녹스'를 고도화시키면서 소비자 우려를 최소화하기 위한 작업을 시행하고 있다.

한종희 삼성전자 DX부문장 부회장은 최근 독일 베를린 'IFA 2024' 간담회에서 "연결된 경험을 소비자에 주기 위해서는 보안이 가장 최우선"이라며 "삼성전자 AI 가전은 사물인터넷(IoT) 보안 최고 등급인 다이아몬드 등급을 가장 많이 보유하는 등 보안 관련해서 가장 앞서있다"고 강조한 바 있다.