경기도의회 도청예산결산특별위원회 이서영 도의원(국민의힘, 비례)은 11일(수) 열린 2025년도 경기도 본예산안 심사에서 AI국 소관 ‘경기 생성형 AI 데이터플랫폼 구축’ 사업에 대해 “생성형 AI 기술을 활용해 행정업무의 효율성을 높이는 것도 중요하지만, 개인정보보호에 만전을 기해야 한다”고 강조했다.

‘경기 생성형 AI 데이터플랫폼 구축’ 사업은 △데이터 통합 플랫폼 구축 △생성형 AI 기반 행정혁신 시스템 △경기도형 특화 LLM(대규모 언어모델) 도입을 목표로 하며, 103억원의 예산이 소요될 예정이다.

이서영 도의원은 “생성형 AI는 방대한 데이터를 학습하여 새로운 콘텐츠를 생성할 수 있는 혁신적 기술”이라며, “생성형 AI시대에 대비해 행정서비스에도 AI 기술을 적용하기 위한 데이터플랫폼을 구축하는 것은 필요하다”고 말했다.

이서영 도의원은 이어 생성형 AI에 기반한 행정서비스의 어두운 면도 언급했다. 이서영 도의원은 “데이터플랫폼에 저장된 행정데이터에 개인정보가 포함됐다면, 생성형 AI가 학습데이터를 처리하는 과정에서 개인정보를 유출할 가능성을 배제할 수 없다”고 우려를 표하며, “개인정보보호 조치를 강화해야 한다”고 주문했다.

이에 AI국장은 “외부시스템에 의존하지 않고 경기도 자체 AI 데이터센터를 구축해 경기 생성형 AI를 학습시킬 예정”이라며, “개인정보 유출은 통제가 가능할 것으로 판단하고 있으나 그럼에도 개인정보 관리에 더욱 유념하겠다”고 말했다.

이서영 도의원은 또 “이 사업이 모든 도민과 공무원의 데이터 활용 편의를 높이는 것을 목적으로 한다면, 개발과정에 노인 등 AI 취약계층을 참여시켜 그들의 의견을 반영해야 한다”고 했다.

이날 이서영 도의원은 보건복지부장관의 동의를 받지 않고 예산을 편성한 복지국 소관 ‘AI 기술 기반 노인돌봄사업’에 대해서도 지적했다. 이서영 도의원은 “노인돌봄사업은 보건복지부장관의 동의를 받아야 하는 사업”이라며, “동의를 받지 않고는 예산편성은 가능하다 할지라도 실제 집행은 할 수 없다”고 말했다. 이어 “사업비가 11억원이다. 동의를 받지 못하면, 11억원을 불용처리해야 한다”며, “예산편성 전 사전절차를 철저히 지켜야 한다”고 강조했다.