AI의 실질적 조치 능력 검증
애플이 공동 저자로 참여한 최신 연구에서, 인공지능 에이전트가 사용자를 대신해 실제로 앱 내 작업을 수행할 때 그 결과를 얼마나 정확히 예측할 수 있는지를 본격적으로 실험했다. 단순히 올바른 버튼을 누를 수 있는지를 넘어서, 해당 조치가 초래할 수 있는 후속 영향을 사전에 인식하고 판단할 수 있는지를 분석한 것이 핵심이다.
이 연구는 최근 이탈리아에서 열린 ACM 지능형 사용자 인터페이스 콘퍼런스에서 ‘상호작용에서 영향으로: 모바일 UI 작동 영향에 대한 이해와 평가를 통한 더 안전한 AI 에이전트 개발’이라는 제목으로 발표되었다.
UI 훈련 데이터의 한계와 새로운 접근
연구진은 현재 대부분의 사용자 인터페이스(UI) 학습 데이터가 비교적 무해한 작업들 — 예를 들어 피드 탐색, 앱 열기, 화면 스크롤 등의 데이터로 구성되어 있다는 점에 주목했다. 이에 따라 연구진은 보다 현실적이고 민감한 시나리오를 실험에 포함시켰다.
참여자들은 실제 모바일 앱을 사용하며 AI가 임의로 실행했을 때 불쾌하거나 위험하다고 느낄 수 있는 행동을 직접 수행하고 기록했다. 예를 들면 메시지 전송, 비밀번호 변경, 프로필 수정, 금융 거래 등이 포함됐다.
AI 행동 위험도 평가 프레임워크 도입
이 연구에서는 단순한 UI 변경뿐 아니라 사용자 경험과 보안 측면까지 고려한 새로운 분류 체계를 도입했다. 프레임워크는 다음과 같은 기준을 포함한다:
-
사용자 의도: 정보 탐색, 거래, 소통, 단순 탐색 등 사용자 목표의 성격
-
UI에 미치는 영향: 화면 구성, 콘텐츠 표시, 페이지 이동 등
-
사용자에 미치는 영향: 개인정보, 데이터, 행동 패턴, 디지털 자산에 대한 변화 여부
-
되돌릴 수 있는지 여부: 실수 시 쉽게 복원 가능한지 여부
-
행위 빈도: 일회성 작업인지 반복적으로 수행되는지
이 기준을 통해 연구진은 AI가 실제 행동을 수행하기 전에 “이 작업은 되돌릴 수 있는가?”, “다른 사용자에게 알림이 가는가?”, “기록이 남는가?” 등을 고려하도록 모델을 훈련시킬 수 있도록 했다.
애플, Swift로 안드로이드 앱 개발 지원 본격화
한편 애플은 자사의 프로그래밍 언어 Swift의 지원 범위를 안드로이드 플랫폼으로 확장하는 공식 프로젝트를 출범시켰다. Swift는 2014년 iOS, macOS, watchOS, tvOS용 언어로 처음 도입됐으며, 이후 리눅스와 윈도우도 지원하게 됐다. 이번에는 구글의 안드로이드 운영체제까지 공식 타깃 플랫폼에 포함시킨 것이다.
Swift 개발자 포럼에 따르면, 새롭게 구성된 ‘안드로이드 워킹 그룹’은 Swift를 안드로이드 환경에서 공식적으로 빌드하고 실행할 수 있도록 다음과 같은 과업을 추진 중이다:
-
비공식 포크나 별도 수정 없이 Swift를 안드로이드에서 작동 가능하도록 통합
-
Android API와 호환되는 Swift 표준 라이브러리 개선
-
Swift로 안드로이드 앱을 개발할 수 있는 공식 툴과 개발 흐름 구축
기존 솔루션의 한계와 새로운 방향
지금까지는 Scade 프레임워크나 개별 개발자가 구성한 커스텀 툴체인을 활용해 Swift로 안드로이드 앱을 개발할 수 있었으나, 이는 호환성 문제나 반복적인 유지보수 부담을 초래해왔다. 이러한 문제를 해결하기 위해 이번 프로젝트는 Swift 배포판에 안드로이드 공식 지원을 통합하고, 별도의 패치나 외부 포크 없이도 안정적인 개발 환경을 제공하는 것을 목표로 한다.
또한 Swift의 핵심 라이브러리인 Foundation과 Dispatch 등을 안드로이드 플랫폼의 관행과 동작 방식에 맞게 개선하는 방안도 함께 추진되고 있다.
AI 안전성과 언어 확장의 이중 전략
이번 두 가지 연구와 프로젝트는 애플이 인공지능의 안전성과 프로그래밍 언어의 플랫폼 확장이라는 두 가지 방향에서 기술 생태계를 넓히고 있다는 점을 보여준다. 향후 AI의 자율적 행동이 확대되는 만큼, 행동의 ‘영향’을 이해하는 능력은 점점 더 중요해질 것으로 전망된다. Swift의 안드로이드 진출 또한 개발자 생태계에 새로운 가능성을 열어줄 수 있을지 주목된다.