생성형 AI 활용에 관한 윤리 지침

제1장총 칙

제1조(목적)

본 지침은 인천중구시설관리공단의 생성형 인공지능(AI) 활용 과정에서 공단 임직원과 외부 이용자에게 미칠 수 있는 윤리적, 사회적 영향을 고려하고, 안전하고 책임감 있는 인공지능(AI) 사용을 도모하여 ‘사람이 중심이 되는 인공지능(AI) 윤리기준’의 정립을 목적으로 한다.

제2조(정의)

이 지침에서 사용되는 용어의 뜻은 다음과 같다.
1. "생성형 AI"란 텍스트, 이미지, 음성 등 새로운 콘텐츠를 생성하는 인공지능 모델을 의미한다.
2. "직원"이란 인천중구시설관리공단에 소속된 모든 임직원을 의미한다.
3. "이용자"란 생성형 AI 서비스를 활용하는 공단의 고객 및 중구 주민을 의미한다.
4. "AI활용 윤리위원회"란 생성형 AI 활용 과정에서 발생할 수 있는 문제를 점검하고 개선을 권고하며, 인권 보호를 위해 AI 활용에 대한 관리·감독을 담당하는 위원회로, 인권경영 위원회가 그 임무를 수행한다.

제3조(적용 범위)

이 지침은 생성형 AI를 사용하는 공단 임직원과 이용자에게 적용되며, AI의 설계, 개발, 배포, 사용 전 과정에 적용된다.

제2장기본 원칙

제4조(인권 보장)

1. ① 생성형 AI의 개발과 활용은 모든 인간의 권리를 존중하며, 국제 인권법과 민주적 가치를 준수해야 한다.
   
2. ② AI는 인간의 권리와 자유를 침해하지 않도록 개발 및 활용되어야 한다.

제5조(프라이버시 보호)

1. ① AI 개발과 활용 전 과정에서 개인의 프라이버시를 보호하고, 개인 정보 오용을 방지해야 한다.
   
2. ② AI의 생애 주기 동안 프라이버시 보호에 대한 지속적 관리와 개선 노력을 기울인다.

제6조(다양성 존중)

1. ① AI는 성별, 나이, 장애, 지역, 인종 등 다양한 특성을 반영하여 모든 사용자에게 공정하게 적용되어야 한다.
   
2. ② 사회적 약자와 취약 계층의 접근성을 보장하고, AI의 혜택이 공평하게 분배되도록 한다.

제7조(침해 금지)

1. ① AI는 인간에게 물리적, 정신적 피해를 주는 목적으로 사용해서는 안 된다.
   
2. ② AI의 부정적 영향에 대비하여 예방책을 마련해야 한다.

제8조(공공성 증진)

1. ① AI는 사회적 공공성 증진과 공동의 이익을 위해 활용되도록 한다.
   
2. ② AI의 순기능을 확대하고 역기능을 줄이기 위한 다각적 교육을 시행한다.

제3장책임과 안전

제9조(연대성)

1. ① AI는 다양한 집단 간의 연대성을 유지하고, 미래 세대를 고려하여 활용되어야 한다.
   
2. ② AI 개발 및 활용 전 과정에서 공정한 참여 기회를 보장하며, 국제적 협력을 장려한다.

제10조(데이터 관리)

1. ① 수집된 데이터는 그 목적에 맞게 활용하며, 목적 외 용도로는 사용하지 않는다.
   
2. ② 데이터 수집과 관리 전 과정에서 편향성을 최소화하고 품질을 유지한다.

제11조(책임성 확보)

1. ① AI의 개발 및 활용 과정에서 발생할 수 있는 피해에 대비해 책임 주체를 명확히 한다.
   
2. ② AI 설계자, 서비스 제공자, 사용자 간의 책임소재를 구체적으로 규명하며, AI의 오류나 오작동으로 인해 잘못된 정보를 제공할 가능성이 있음을 이용자에게 충분히 주지시키고 이를 주의할 수 있도록 조치한다.

제12조(안전성 보장)

1. ① AI의 잠재적 위험을 방지하고 안전성을 확보하기 위해 지속적인 평가와 관리가 필요하다.
   
2. ② AI 활용 시 오류 발생 시 사용자가 즉각적인 제어 권한을 가질 수 있도록 한다.

제4장투명성과 공정성

제13조(투명성)

1. ① AI 활용 과정에서의 투명성과 설명 가능성을 제고하여 사회적 신뢰를 형성한다.
   
2. ② AI 제품과 서비스의 활용 과정 및 잠재적 위험 요소를 사전에 고지하여 투명한 운영을 보장한다.

제14조(공정성)

1. ① AI는 특정 집단에 불리한 영향을 미치지 않도록 공정성을 유지해야 한다.
   
2. ② AI의 학습 데이터에는 다양한 관점을 포함하여 편향 없이 설계되도록 노력한다.

제5장관리 및 지원과 교육

제15조(기관장의 역할)

1. ① 기관장은 AI 활용 활성화를 위해 예산 편성, 교육 및 훈련 프로그램 지원 등을 통해 임직원의 역량 강화를 돕는다.
   
2. ② AI의 윤리적 활용을 위한 내부 교육 및 훈련을 정기적으로 실시한다.

제16조(AI 활용 윤리위원회의 역할)

1. ① AI 활용 윤리위원회는 인권의 수호자로서 생성형 AI 활용 과정에서 인간의 권리가 침해되지 않도록 AI 사용에 대한 감시, 감독, 관리를 주관한다.
   
2. ② AI 활용 윤리위원회는 생성형 AI 활용 과정에서 발생할 수 있는 윤리적 문제를 점검하고, 필요시 시정 및 개선을 권고할 수 있다.
   
3. ③ 이를 위해 AI 활용 윤리위원회는 외부 전문가 의견의 청취 또는 직접 위원회에 외부 전문가를 참여시킬 수 있다.

제17조(AI 모델의 지속적 관리)

1. ① AI 모델은 정기적으로 평가하고, 오류나 윤리적 문제가 발견되면 즉시 개선 조처를 한다.
   
2. ② AI 활용 윤리위원회는 사회적 변화에 따라 AI 윤리기준을 정기적으로 검토 및 수정하여 공단의 사회적 책임을 다하도록 한다.

부칙

제1조(시행일) 이 지침은 공포한 날로부터 시행한다.
제2조(준용 규정) 이 지침에 명시되지 않은 사항은 관련 법령과 국제적 윤리기준을 따른다.