일본의 직장 내 AI 도입, 접근 확대에서 테스트와 통제로 전환

주요 동향

일본의 비즈니스 AI 시장은 더 뛰어난 모델에 대한 접근, AI가 구축한 것을 테스트하는 도구, 직원들의 AI 사용 방식을 관리하는 통제라는 세 가지 계층으로 분화하기 시작했다. 10월 13일 발표된 세 건의 소식은 이러한 진전을 보여주지만, 각각은 여전히 발표 기업 측의 주장이다.

1. 지자체용 AI 플랫폼 zevo, 제공 모델 확대

Shift Plus는 LGWAN 환경을 사용하는 지자체용 생성형 AI 서비스 zevo에 Claude Haiku 5.5와 이미지 생성·편집 모델 Gemini Nano Banana 2.1을 추가했다고 밝혔다. 회사에 따르면 두 모델 모두 10월 13일부터 서비스를 이용하는 모든 지자체에 추가 요금 없이 제공되기 시작했다. 공공 부문 팀에 주목할 만한 점은 단순히 모델명에 있지 않다. 조달의 초점이 기존 행정 환경 안에서 여러 모델을 제공할 수 있는 관리형 플랫폼으로 이동하고 있다는 점이다. 성능, 보안 및 적합성은 보도자료를 근거로 추정할 것이 아니라 각 조직이 직접 평가해야 한다. (발표문 보기)

2. Asteria, 취약점 점검 기능 출시에 앞서 테스트 기능 추가

Asteria는 Platio Canvas AI와 Bakusoku.AI로 생성된 애플리케이션을 위한 두 가지 통제 기능을 발표했다. 10월 14일 자로 명시된 자동 테스트 기능은 테스트 시나리오를 생성하고, 애플리케이션을 작동시키며, 결함을 식별하고, 수정 작업을 생성한 뒤 다시 테스트하도록 설계됐다. 별도의 취약점 점검 기능은 10월 30일 출시될 예정이다. 이러한 순서는 중요하다. 로우코드 생성에 수정 루프와 보안 점검 지점이 결합되고 있기 때문이다. 다만 공급업체의 발표는 독립적인 감사가 아니며, 자동화된 점검이 전문가의 테스트를 대체할 수 있음을 입증하지도 않는다. (발표문 보기)

3. Coconala와 Elith, AI 거버넌스 사업 추진

Coconala는 이사회가 AI 개발사 Elith와의 합작법인 설립을 승인했으며 양사가 10월 13일 계약을 체결했다고 밝혔다. 설립 예정 회사의 자본금은 ¥10 million이며, 지분은 Coconala 51%, Elith 49%로 나뉘고, 목표 설립일은 11월 1일이다. 초기 제품은 두 가지 문제를 해결하는 것을 목표로 한다. 하나는 직원들이 무엇을 사용하는지 파악하고 통제하는 기능을 포함한 승인되지 않은 직장 내 AI 사용이며, 다른 하나는 AI 답변의 오류나 환각을 평가하는 것이다. 발표 당시 이 합작법인은 아직 계획 단계였으므로, 최종적으로 출시될 제품과 성과는 앞으로 입증돼야 한다. (발표문 보기)

세 가지 움직임이 시사하는 점

모델 선택은 이제 첫 번째 결정에 불과해지고 있다. 일본에서 AI를 도입하는 조직에는 통제된 접근, 반복 가능한 테스트, 취약점 검토, 사용 기록 및 출력 평가를 포함해 AI를 둘러싼 완전한 운영 계층이 갈수록 더 필요하다. 구매자는 발표된 기능과 독립적으로 입증된 역량을 구분해야 하며, 보안이나 공공 부문 업무 절차가 관련된 경우에는 특히 그래야 한다.