AI-103 Episode 6 - Implement a responsible generative AI solution in Microsoft Foundry - Exercise
Apply guardrails to prevent the output of harmful content Microsoft Foundry에는 잠재적으로 유해한 prompts와 completions를 식별하고 서비스와의 상호 작용에서 제거하는 데 도움이 되는 기본 guardrails가 포함되어 있다. 또한 특정 요구 사항에 맞게 custom guardrails를 정의하여 model deployments가 generative AI 시나리오에 적절한 responsible AI 원칙을 적용하도록 할 수 있다. Content filtering은 generative AI models로 작업할 때 responsible AI에 대한 효과적인 접근 방식의 한 요소이다.이 연습에서는 Foundry에서 guardrails의 ..
1. 이번 세션의 핵심생성형 AI 솔루션은 강력한 기능을 제공하지만 잠재적 위험도 함께 존재한다.책임 있는 AI 개발을 위해 다음 네 단계 프로세스를 사용할 수 있다.Map (계획): 잠재적 위험 식별Measure (측정): 위험 발생 여부 측정Mitigate (완화): 다층 안전 시스템 구축Manage (관리): 배포 및 운영 관리전체 흐름은 다음과 같다.잠재적 위험 파악 및 우선순위 지정→ Red Team 테스트로 위험 측정→ 4계층 안전 시스템으로 위험 완화→ 단계별 배포 및 지속적 모니터링→ 사고 대응 계획 수립핵심은 네 단계가 반복적이고 순환적이라는 것이다. 각 단계의 결과를 바탕으로 이전 단계로 돌아가 개선할 수 있다. 2. 책임 있는 AI가 필요한 이유생성형 AI 모델은 방대한 데이터를 학습..
AI-103 Episode 5 - Optimize generative AI model performance with Microsoft Foundry - Exercise
Fine-tune a language model 언어 모델이 특정 방식으로 동작하도록 하려면 prompt engineering을 사용하여 원하는 동작을 정의할 수 있다. 원하는 동작의 일관성을 높이려면 model을 fine-tune하도록 선택하고, prompt engineering 접근 방식과 비교하여 어떤 방법이 요구 사항에 더 적합한지 평가할 수 있다.이 연습에서는 custom chat application 시나리오에 사용하려는 language model을 Microsoft Foundry로 fine-tune한다. fine-tuned model과 base model을 비교하여 fine-tuned model이 요구 사항에 더 잘 맞는지 평가한다.여행사에서 근무하며 사람들이 휴가를 계획하도록 돕는 chat..