코파일럿/웍스페이스 AI, 사이버범죄 악용 우려

이코노믹타임즈가 최근 구글과 MS가 생산성 앱에 AI를 도입하는 것에 대해 긍정적인 면을 소개하면서도, 사이버범죄와 보안에 대해 심각한 경계를 해야함을 전했습니다.

 

3월 16일, Microsoft는 코파일럿이라는 AI 기반 시스템을 곧 Word, Excel, PowerPoint, Outlook, Teams를 포함한 365 제품군 앱에 도입할 예정이라고 발표했습니다. 이 소식은 Google이 문서, 스프레드시트, 슬라이드, Meet 및 Chat과 같은 워크스페이스 앱에 AI를 탑재할 계획을 설명하는 블로그를 게시한 지 약 이틀 후에 나왔습니다. 이제 Microsoft와 Google은 생성형 AI를 사무실과 교실에 도입할 수 있는 보다 구체적인 방법을 찾은 것입니다.

 

Copilot은 여러 앱에 통합되어 지루하거나 반복적인 작업을 신속하게 처리하는 데 도움이 됩니다. 예를 들어

 

1. 사용자가 Word 문서를 작성, 편집 및 요약하는 데 도움을 줍니다.
2. 아이디어나 요약을 전체 PowerPoint 프레젠테이션으로 전환합니다.
3. Excel에서 데이터 추세를 파악하고 신속하게 시각화 만들기
4. "Outlook 받은 편지함을 '종합 및 관리'합니다.
5. Teams 모임의 실시간 요약 제공
6. 문서, 프레젠테이션, 전자 메일, 일정 전반의 데이터를 한데 모아 전자 메일 작성 
7. 채팅 요약에 도움이 되는 메모 및 연락처를 가져옵니다.

이러한 작업은 구글의 Workspace AI 기능과 크게 다르지 않습니다.

 

Microsoft의 Copilot은 단 20명의 고객을 대상으로 시험 중이며, 사용 가능 여부 및 가격에 대한 자세한 내용은 "향후 몇 달 내"에 공개될 예정입니다. Google의 Workspace AI 또한 유료 구독자에 한해 유사한 기능을 제공할 예정입니다.

 

 

 

이코노믹 타임즈는 생산성을 올릴 수 있는 AI의 이러한 장점에도 불구, 다음과 같은 두 가지 문제를 지적하고 있습니다.

 

 

사용성 문제

 

ChatGPT가 출시된 후 많은 사람들이 지적했듯이, 텍스트 기반 생성 AI 도구는 알고리즘 편향이 발생하기 쉽습니다. 이러한 우려는 구글과 마이크로소프트의 새로운 도구에도 적용될 것입니다. 생성형 AI 도구의 결과물은 부정확성과 편견으로 가득 차 있을 수 있습니다. GPT-4에서 실행되는 Microsoft의 자체 Bing 챗봇은 올해 초 터무니없는 주장을 했다는 이유로 비난을 받았습니다. 

 

편향성은 학습 데이터에 대한 적절한 선택이나 이해 없이, 그리고 학습 프로세스에 대한 적절한 감독 없이 대량의 데이터를 처리할 때 발생합니다. 예를 들어, 온라인 콘텐츠의 대부분은 영어로 작성되어 있는데, 이는 AI 도구를 개발하는 사람들(대부분 백인과 남성)이 주로 사용하는 언어일 가능성이 높습니다. 이러한 근본적인 편견은 AI 기반 시스템이 이해하고 이후 복제하는 글쓰기 스타일과 언어 구성에 영향을 미칠 수 있습니다.

 

현재로서는 코파일럿이나 워크스페이스 AI에서 편견의 문제가 어떻게 나타날 수 있는지 정확히 말하기는 어렵습니다. 한 가지 예로, 비영어권 국가 또는 다양한 영어 스타일을 사용하는 사람들에게는 시스템이 효과적으로 작동하지 않을 수 있습니다.

 

보안 문제

 

Microsoft와 Google의 AI 도구의 주요 취약점 중 하나는 사이버 범죄자가 피해자의 개인정보를 훨씬 쉽게 빼낼 수 있다는 것입니다.

 

이전에는 범죄자가 특정 데이터를 찾기 위해 수백 개의 파일이나 이메일을 샅샅이 뒤져야 했지만, 이제는 AI 지원 기능을 사용하여 필요한 데이터를 빠르게 수집하고 추출할 수 있습니다.

 

또한 아직까지 오프라인 버전이 제공될 것이라는 징후가 없기 때문에 이러한 시스템을 사용하려면 관련 콘텐츠를 온라인으로 업로드해야 합니다. 온라인에 업로드된 데이터는 컴퓨터나 휴대폰에만 저장된 데이터보다 유출될 위험이 더 높습니다.

 

마지막으로, 개인정보 보호의 관점에서 볼 때, 세계 최대 기업들이 우리의 데이터를 수집하고 합성할 수 있는 방법이 더 많아진다는 것은 그다지 고무적이지 않습니다.

 

(소스 : 이코노믹 타임즈)