AI를 위한 디자인: AI를 디자인하는 사람들은 무엇을 알아야 할까요?

Photo by Unsplash of Igor Omilaev

 

 

 

우리는 확실히 아직 "거기"에 있지는 않지만(즉, 바에서 Commander Data를 마주 하지 않고 있음 ) 일상 생활 전반에 걸쳐 광범위한 AI 기능이 뿌려져 있습니다. 회의 일정을 잡거나 HR 질문에 답하거나 평행 주차를 도와줄 컴퓨터를 얻을 수 있습니다. 더 심각한 것은 급여 인상 추천, 대출 수혜자 자격 확인, 징역형 선고 등 사람들의 삶에 극적으로 영향을 미치는 비판적 사고를 컴퓨터가 대신 수행하도록 할 수도 있다는 것입니다. 디자인 연구원, 디자인 관리자, 비 AI 및 AI 소프트웨어를 제공하는 디자인 책임자로 근무하는 동안 저와 제 팀에서 고유한 "AI 디자인" 기술이 개발되는 것을 관찰했습니다. 소장가치가 있는 스킬이라고 생각합니다. 작년에 저는 AI 디자인 분야에서 일하는 IBM 동료인 Adam Cutler 와 Milena Pribic 과 함께 "AI 디자인"을 위한 고유한 기술 세트를 정의했습니다.

 

 

 

 

 

AI 디자인은 다른 디자인과 어떻게 다른가요?

 

AI를 위한 설계는 유동적인 인간-기계 관계를 위한 설계를 의미합니다. 이는 관계가 정적인 비 AI 설계와 대조됩니다. AI가 아닌 기계에서는 상호 작용이 변경되지 않지만 AI 기계에서는 상호 작용이 시간이 지남에 따라 발전합니다. 기계는 학습하고 있으며 따라서 변화하고 있습니다. 이와 동시에 인간은 학습하고 있으며 따라서 변화하고 있습니다. 이 공동 학습은 역동적인 피드백 루프를 생성합니다. 즉, 사람과 기계가 정보를 주고받으며 학습하는 것입니다. 이 역동적인 인간-기계 관계에서 좋은 의사 소통을 위한 조건을 만드는 것은 AI 디자이너의 만만치 않은 작업입니다.

 

인간과 AI 사이의 풍부한 전후 관계를 촉진하기 위해 데이터가 중심 무대를 차지합니다. AI 이전에 데이터 전송은 사람이 시작을 누르고 기계를 켜는 것과 같았습니다. AI를 통해 데이터는 이제 학습된 행동의 원재료입니다. 데이터 입력은 지시가 아닌 사실을 기계에 제공하는 것입니다. 그리고 AI 이전과 같이 미리 정의되지 않은 기계 출력에는 데이터가 어떻게 응답을 생성했는지에 대한 설명이 필요합니다. AI 설계자는 데이터 캡처에서 데이터 출력, 데이터 설명, 그리고 다시 역으로 데이터 수명 주기 전반에 걸쳐 이러한 상호 작용을 설계하는 일을 담당합니다.

 

 

 

 

예를 들어 레코드 플레이어 설계와 Spotify 설계를 살펴 보겠습니다. 레코드 플레이어의 이상적인 동작 또는 "출력"은 예측 가능합니다. 플래터에 레코드를 놓고 바늘을 떨어뜨리면 매번 정확히 같은 방식으로 가능한 한 오랫동안 해당 레코드를 재생해야 합니다. 이것을 기계 학습을 사용하여 새 노래를 추천하고 사용자 정의 재생 목록을 만드는 Spotify와 대조적입니다. Spotify는 사용할수록 더 똑똑해집니다. 소프트웨어는 귀하에 대한 정보를 노골적으로 또는 은밀하게 캡처하여 개선하고 해당 입력을 사용하여 귀하에게 제공할 노래에 대한 결정을 내립니다. Spotify가 당신이 듣고 싶은 것에 대한 결정을 내릴 때, 기계의 "사고 과정"에 대한 다양한 수준의 통찰력과 기계의 결과를 조작할 수 있는 방법에 대한 다양한 수준의 제어를 제공할 수 있습니다.

 

이 두 경우 모두 디자인의 기본 원칙이 적용됩니다. 즉, 단순성과 일관성이 필수적입니다 . 그러나 이러한 기본 이면에는 근본적으로 정적인 기술과 근본적으로 동적인 기술이라는 두 가지 다른 종류의 기술이 있습니다. 인간이 버튼을 누르면 기계가 프로그래밍된 대로 반응하는 일방통행이었던 것이 이제 양방향으로 바뀌어 변화의 순환을 만듭니다. 디자이너로서 그것은 이제 당신이 기계와 인간이 정보를 주고받는 방식을 얼마나 잘(효과적으로, 쉽게, 안전하게) 담당하고 있는지를 의미합니다. AI 디자인에서 인간과 기계의 상호 작용은 0일차와 불가피한 저하를 위한 디자인이 아니라 진화하고 지속적인 관계의 매개변수를 디자인하는 것입니다.

 

 

 

단기 또는 장기적 가치

 

 

AI 디자인 기술 정의의 단기적이고 실용적인 가치는 간단합니다. 디자이너는 자신의 책임을 알아야 합니다. AI 기술을 연구하는 디자이너는 자신에게 기대되는 것이 무엇인지 알아야 이러한 기대를 충족하거나 필요에 따라 성장할 수 있습니다. 동시에 디자인 팀 구성원이 아닌 사람들도 디자이너에게 무엇을 기대할 수 있는지 알아야 합니다. 이는 AI 설계 기술을 정의하기에 충분한 이유이지만 이러한 단기적인 기능 외에도 장기적인 대화의 귀중한 시작입니다.

 

오늘날 사용 가능한 좁은 AI를 통해 우리는 인간처럼 배우고, 추론하고, 감지하고, 행동하는 기계를 만드는 것이 무엇을 의미하는지 맛보고 있습니다. 이러한 기계는 엔지니어링(즉, 작동하도록 제작)되어야 하지만 설계(즉, 목적에 맞게 제작)도 필요합니다. 아직 샌드박스에 있는 동안 AI 디자인 기술을 정의하는 것은 신중한 일입니다. 이렇게 하면 기계가 발전함에 따라 고품질 AI를 만드는 방법에 대한 우리의 이해도 함께 발전할 수 있습니다. 이는 고도로 기능적인 AI를 만드는 데 유용하지만 인간의 의사 결정 능력을 기계에 아웃소싱하기 시작하면서 더욱 중요해졌습니다. 이러한 기술을 정의하면 기능적 AI뿐만 아니라 윤리적이고 안전한 AI를 설계하는 직업을 형성할 수 있습니다.

 

 

 

 

AI 디자인 스킬

AI 디자인 기술의 범위는 화면에 픽셀을 넣는 것에만 국한되지 않습니다. 대신, 이러한 역동적인 인간-기계 상호 작용을 위한 설계는 설계의 엔드투엔드 프로세스를 변경합니다. AI 디자인은 팀이 해결해야 할 문제를 선택할 때 시작되고(그리고 해당 문제를 해결하는 데 필요한 데이터를 정의할 때) 디자인이 출시된 후에도 멈추지 않습니다(학습을 추적하고 수정해야 할 때). 이 새로운 끝은 투엔드 프로세스는 새로운 협력 파트너, 새로운 시장 전략, 새로운 윤리적 고려 사항 및 새로운 기술 지식을 의미합니다.

 

AI 디자이너는 다음 5가지 기술에 능숙해야 합니다.

 

인위적인 데이터 과학 및 AI 용어 및 기술 이해

AI 디자이너는 인공지능 기술 영역에 대한 기초적인 이해를 갖추고 있어야 합니다. 그들은 AI의 발전에 영향을 미칠 수 있고 AI가 어떻게 사용되는지에 대해 책임을 질 수 있을 만큼 충분히 알아야 합니다. 가장 높은 수준에서 AI 디자이너는 데이터 과학에 대해 정보를 바탕으로 긴 대화를 나눌 수 있어야 합니다.

 

관찰 가능한 행동

• 머신러닝 작동 방식의 기본을 설명할 수 있습니다.
• 데이터 엔지니어링 개념(예: 데이터 수집, 데이터 정리, 데이터 큐레이션, 데이터 모델링)을 설명할 수 있습니다.
• AI 기술(예: NLP, NL 이해, ML)을 설명할 수 있습니다.
• 핵심 알고리즘의 작동 방식을 설명할 수 있습니다(예: 딥 러닝, 라이브러리 생성, 코드 패턴).
• AI 툴체인 및 AI DevOps 프로세스(예: WML, Cloud Pak for Data)를 설명할 수 있습니다.

 

 

윤리학, 윤리적 의사결정 촉진

AI 설계자는 책임감 있고 공정하며 투명하고 신뢰할 수 있는 AI를 구축하는 데 따른 윤리적 표준과 함정을 이해해야 합니다. 이들은 팀의 윤리적 관행을 확립하고 유지할 수 있어야 하며 윤리적 사고를 일상적인 설계 및 개발 프로세스에 통합할 수 있어야 합니다. 가장 높은 수준에서 AI 디자이너는 높은 윤리적 기준 뒤에 있는 추론에 대해 명확한 전문가가 되어야 합니다.

 

관찰 가능한 행동

• 윤리 리소스를 팀 프로세스(디자인 사고 연습, 정적 리소스, 역할별 도구 포함)에 통합할 수 있습니다.
• GDPR/규정 준수 의무와 이것이 결과물에 미치는 영향을 설명할 수 있습니다.
• 비윤리적인 디자인 결정이 재정적, 인간적으로 미치는 영향에 대한 실제 이야기를 들려줄 수 있습니다.
• 다양한 능력을 가진 사람들의 위험을 파악하기 위해 핵심 질문을 할 수 있습니다.
• 인간의 다양성이 데이터에 어떤 영향을 미치는지에 대한 대화를 이끌 수 있습니다.

 

 

 

협동, 전체 팀 AI 개발 및 제공에 대한 협업

AI 디자이너는 AI 경험을 제공하는 데 있어 다양한 이해관계자와 협력할 수 있는 능력을 갖추어야 합니다. 그들은 AI를 개발, 제공, 개선하는 과정과 그 과정에서 각자의 고유한 책임을 이해해야 합니다. 가장 높은 수준에서 AI 디자이너는 데이터 수집부터 모델 디자인, 경험 제공에 이르기까지 팀이 성공적인 목표를 향해 나아갈 수 있도록 지원해야 합니다.

 

관찰 가능한 행동

• 다양한 분야의 팀이 공유하는 비전 생성에 참여할 수 있습니다.
• 엔드투엔드 AI 개발 프로세스에 참여할 수 있으며, AI 타임라인 개발을 설명할 수 있습니다.
• 데이터를 수집, 정리하고 모델에 추가하는 방법을 설명할 수 있습니다.
• 디자인 사고 활동을 촉진하고 AI 목표를 달성하기 위해 관련 디자인 사고 연습을 사용할 수 있습니다.
• 다양한 능력을 가진 사용자의 참여를 유도할 수 있음

 

 

 

전략, AI 전략 정의

AI 디자이너는 시뮬레이션된 인간 지능과 사고 과정 뒤에 있는 목적과 의도를 만들고 명확하게 표현할 수 있어야 합니다. AI 개발을 위한 사용자 중심 전략을 개발하고 비즈니스 및 사용자 관점에서 일반적인 AI 사용 사례를 명확히 설명할 수 있어야 합니다. 전략이 정의되면 AI 디자이너는 AI 전략의 가치에 대한 설득력 있는 이야기를 전달할 수 있어야 합니다.

 

관찰 가능한 행동

• AI 채택에 대한 장벽을 설명할 수 있음
• 워크숍 중 AI 기회/기능을 설명하는 데 도움이 되는 실제 사용 사례를 설명할 수 있습니다.
• 회사의 AI 전략과 차별화를 설명할 수 있습니다.
• AI 사다리 또는 AI 성공을 향한 여정을 설명할 수 있습니다.
• 데이터와 AI 도구 및 서비스를 설명할 수 있습니다.

 

 

 

상호작용, AI 상호작용을 위한 디자인

AI 디자이너는 인간과 AI 기계 간의 반복적이고 역동적인 관계를 담당합니다. AI 설계자는 AI 모델의 출력을 소모품으로 만들어 인간이 기계의 진화하는 추론과 결과에 대한 통찰력을 가질 수 있도록 해야 합니다. 이와 동시에 AI 디자이너는 인간의 입력이나 선호도를 포착하는 상호 작용을 생성하여 시간이 지남에 따라 기계가 개선될 수 있도록 해야 합니다. 가장 높은 수준에서 AI 디자이너는 일관되게 다양한 고품질 AI 상호 작용을 생성하여 다른 디자이너를 위한 표준과 모범 사례를 정의할 수 있어야 합니다.

 

관찰 가능한 행동

• AI 출력을 인간을 위한 귀중한 정보로 변환할 수 있습니다.
• AI 디자인의 "시작"부터 "지원"까지 다양한 "보편적 경험"을 위한 디자인 가능
• 기존 AI 패턴을 효과적이고 적절하게 활용하고 재사용할 수 있습니다.
• AI의 존재에 대한 적절한 의사소통 수준을 결정할 수 있습니다(예: 빈도, 브랜딩).
• AI 솔루션을 조기에 자주 프로토타입화하고 테스트할 수 있습니다.
• AI 수명주기의 공통 개념에 맞게 설계할 수 있습니다(예: 신뢰도 임계값 설정, 지속 가능한 모델 유지 관리 프로그램 설정 및 데이터 수집 방법).

 

 

어떠한 도구를 사용할 수 있습니까?

 

AI 디자인 분야에서 귀하의 기술(또는 조직의 기술)을 향상시키기 위해 지금 당장 할 수 있는 몇 가지 작업은 다음과 같습니다.

 

먼저, 자가 평가를 해보세요.

위의 각 기술을 검토하고 자신에게 0~5점을 부여하세요. 0점은 '기술 없음', 5점은 '전문가'를 의미합니다. 이 기준선을 설정하면 현재 위치와 성장 방법을 이해하는 데 도움이 됩니다.

 

둘째, 개발하고 싶은 한 가지 차원을 식별하십시오.

성장을 위해 한 가지 차원을 선택하면 그 초점이 발전하는 데 도움이 된다고 생각합니다. 이것은 한꺼번에 모든 것을 더 잘하려고 노력하는 것보다 낫습니다. (이것의 좋은 부작용은 한 가지에만 집중하면 모든 기술이 좋아지는 경향이 있다는 것입니다.)

 

 

 

---

 

Design for AI: What should people who design AI know?

번역된 내용으로 의역이나 오역이 있을 수 있습니다.자세한 내용은 원문을 확인하시기 바랍니다.