Sightlines 2호: 리더가 에이전트 구축에 대해 알아야 할 사항
에이전틱 제품은 고유한 디자인 과제를 제시합니다. 핵심적으로 신뢰와 보안을 유지하면서 진정한 파트너가 될 만큼 강력하고 지식이 풍부한 도구를 어떻게 구축할 수 있을까요? 리더들은 다음과 같이 이야기합니다.
Sightlines 2호: 리더가 에이전트 구축에 대해 알아야 할 사항공유
Sightlines는 디자인, 제품, 엔지니어링 리더를 위한 뉴스레터입니다. 각 호에서 Cisco, OpenAI, Airbnb 등과 같은 기업의 고위 리더들이 AI 시대에 제품 개발과 디자인을 어떻게 진행하고 있는지에 대한 날카로운 인사이트를 전해드립니다.
가장 먼저 떠오르는 생각
시카고에서 열린 Leadership Collective 강연부터 Config에 이르기까지 최근 행사 전반에 걸쳐 리더들은 에이전틱 제품을 잘 디자인하기 위해 필요한 것이 무엇인지 고민해 왔습니다. 저희가 배운 내용은 다음과 같습니다.
- 신뢰는 P0, 즉 최우선순위입니다.사용자는 에이전트가 작업 내용을 보여주고 출처를 인용할 때 에이전트를 신뢰할 가능성이 더 큽니다. 리더는 제품 팀이 처음부터 새로운 수준의 투명성과 커뮤니케이션을 통합하도록 장려해야 합니다.
- "완벽함" 때문에 출시를 방해받지 마세요.학습의 일부는 에이전틱 제품이 세상에 출시되었을 때 어떻게 작동하는지 확인하는 것입니다. 신뢰 기준을 통과하면, 리더는 팀에 제품을 출시하고 실제 사용을 통해 개선할 수 있도록 권한을 부여해야 합니다.
- 일찍 거버넌스 체크포인트를 정의하세요. 리더는 에이전트가 스스로 처리할 수 있는 일상적인 작업이 무엇인지, 그리고 민감한 건강 정보와 관련된 모든 것처럼 항상 사람이 개입해야 하는 작업은 무엇인지에 대해 모든 사람의 의견을 일치시켜야 합니다.
더 깊이 알아보기: 리더가 주는 교훈: 에이전틱 디자인 규칙 작성
다시 한번 강조하고 싶은 내용
특히 기억에 남는 몇 가지:
"[에이전트를 설계할 때] 우리의 목표는 AI가 할 수 있는 것을 확실하게 설계하는 것이 아니라, 시스템이 일관되게 행동할 수 있는 조건과 규칙을 만드는 것입니다." Thomas Vidal, Accor 제품 디자인 부문 부사장
"첫날부터 완벽한 것을 출시할 수는 없습니다. 에이전트 구축은 그런 방식으로 작동하지 않기 때문입니다. 실제 사용 및 실행을 통해 많은 것을 배워야 합니다. 테스트 및 출시에 대한 엄격함은 중요합니다." Rachel Been, Expedia 디자인 부문 수석 부사장
"머지않아 우리는 에이전트에게 업무 흐름에 대한 자율적인 제어권을 점점 더 많이 부여하게 될 것입니다. 우리는 그러한 에이전트가 하는 일에 대해 사람이 지속적으로 책임을 질 수 있도록 해야 합니다." Charlie Sutton, Atlassian 최고 디자인 책임자(CDO)
"리더의 임무는 팀에게 더 열심히 노력하도록 압박하는 것이 아닙니다. 훌륭함이 실제로 무엇을 의미하는지 재정의하여, 사람들이 스스로는 보지 못했던 차이를 볼 수 있게 하는 것입니다." Jake Albaugh, Figma 개발자 옹호자
리더들이 생각하는 다른 것들:
