AWS Skill Builder
인공지능 자격증 지금 따야한다고 생각합니다.
지금은 인공지능을 누구나 접하고 편하게 쓰고 있다고 생각하겠지만 그냐
시간이 지날수록 생각이 확실해 지는 점
인지적 도제 개인화 사용자 중심 설계 _ 인간 및 AI 학습을 고려
목표는 둘에게 모두 유익해야 합니다. 효과적인 학습 환경 및 도구를 만들기. 인간은 인간에게 (멘토 등) 새로운 기술과 지식을 배우고 인공지능은 그들로부터 학습합니다. 시나리오(시뮬레이션된, 실제)에서 전문 지식을 얻는 학습 환경이 중요합니다. 개인 선호도에 맞게 개인화된 알고리즘 생성이 가능하게 됩니다. 언어 장벽이 있더라도 그 학습자도 포함해 접근 가능하게 하여 몰입적인 학습이 가능하게 합니다.
투명성 공정성 교육 _ 편향 없는 의사 결정
설계로써 의사 결정 프로세스, 시스템 및 도구에 영향을 미치는 부분을 고려. 모든 이해 관계자가 접근 가능한 방식이어야 합니다. 시각화로 직관적이며 결정, 의사의 의미를 명확하게 보게해요. 고정관념, 불공정 등 편향을 없게 설계합니다. 의사 결정자는 편향을 인식하고 완화할 수있게 교육을 받아야합니다. 사실 리더라면 더 책임감이 중요하기에 그만큼 많이 배우고 인식하며 살아야 하는것 같습니다.
명확성 간편성 사용성 반사성 책임성 _ 증폭된 의사 결정 고려
의사결정자를 위한 고려입니다. 이로 인해 위험, 오류를 최소화 그리고 사용시 이점을 극대화 가능! 개인과 조직 그리고 결론적으로 사회에 도움이 됩니다. 사람이 완벽하지 않아서 나온 개념인가라는 생각이 들어요. 고위험 상황이나 스트레스를 받는 상황에 만들 수있는 상황에 인식이 쉽고 사용이 쉽고 결정을 간편화해서 이점이 있고 사용자가 개발 관련이나 기술에 관계없이 쓰도록 합니다. 반사성은 결정이후 내가 잘 선택했는지 의사 결정 과정을 되돌아보게 합니다. 쉽지 않네요…. 저걸 다 신경쓰려면 적어두고 살아야 하지는 않을까? 모든 개발자 그리고 그 외에도 염두할지 모르겠어요. 책임성은 내린 결정 결과를 책임을 지게 만드는 것을 고려해 설계해야 한다.
인간 중심 설계(HCD); 인간을 위해 직관적이고 사용하기 쉽게 충족하게 하는 설계. (정확성과 공정성 필수) 인간 및 AI 모두 학습을 고려한 설계
인간 피드백을 통한 강화 학습 (RLHF) 피곤 하지만 사용자 만족 뿐만 아니라 성능 향상도 가능.
HITL(Human-in-the-Loop) 모델 정확성/관련성 – 아마존의 SageMaker Ground Truth 에서 기능 제공
아마존 SageMaker
투명성과 보안 그리고 책임성에 대해 인식을 도와주는 부분이 크게 다가왔습니다.
RL 강화 학습 , HF 인간 피드백 중요성을 인공지능 LLM 서비스 기획 훈련 과정 중에 이론으로 배우긴 했지만 더 깊이 배우면서 내가 리더라면 이라는 생각과 이해 관계자가 얼마나 중요한지 더 다가왔습니다.