#23. Azure AI Foundry를 활용한 AI 에이전트 구축 5단계 가이드 🛠

💡 완전 초보자를 위한 가이드 — 클라우드 몰라도 OK! 

안녕하세요, 이번 뉴스레터에서는 Azure AI Foundry(미리보기)를 통해 AI 에이전트를 손쉽게 구축하는 방법을 알려드립니다. 

🤖 “클라우드나 AI 개발 몰라도 만들 수 있어요?” 

네, 이 가이드는 그런 분들을 위해 준비했습니다!


✨ 먼저, 이런 걸 만들 수 있어요! 
  • 회사의 FAQ 문서를 학습한 챗봇 
  • 실시간 업무 비서 
  • 문서 분석 도우미 
  • 특정 도구를 실행하는 스마트 에이전트

그럼 이제, 5단계 가이드로 함께 만들어볼까요? 



✅ 1단계: Azure 무료 계정 만들기 및 초기 설정 

Azure를 처음 접하신다면, 먼저 무료 계정을 만들어야 해요. Azure 홈페이지 접속 “무료 시작” 버튼 클릭 Microsoft 계정으로 로그인하고, 기본 정보를 입력 무료 계정을 만들면 $200 상당의 크레딧을 30일 동안 사용할 수 있습니다. 


💡 TIP: 계정을 만들고 나면 Azure 포털(https://portal.azure.com)에 자동으로 로그인됩니다. 여기서 다양한 서비스 설정이 가능하지만, 초보자라면 AI Foundry 포털만 집중하면 됩니다. 또한, AI 서비스를 사용하려면 해당 계정에 AI Developer 권한이 있어야 하는데, 대부분의 경우 자동으로 할당되니 걱정하지 않으셔도 됩니다. 

fd705eede0bb9.png



✅ 2단계: Azure AI Foundry에서 새 프로젝트 시작하기 

이제 본격적으로 AI 에이전트 프로젝트를 만들어볼 차례입니다. 

  1. Azure AI Foundry 포털 접속 
  2. 우측 상단 메뉴에서 “프로젝트 만들기” 선택 
  3. 프로젝트 이름을 입력 (예: myFAQbot


여기서 Hub(허브)라는 개념이 등장하는데요, 이는 여러 프로젝트를 한데 묶는 작업 공간이라고 생각하면 됩니다. 

예: Hub 이름: myAIhub / 프로젝트 이름: myFAQbot
👉 허브는 프로젝트를 생성할 때 함께 생성이 됩니다. 

Create 버튼을 누르면 Azure가 알아서 기본 설정(리소스 생성, 권한 부여 등)을 자동 처리합니다.
🔹 복잡한 클라우드 인프라 설정(스토리지, 보안을 위한 키 생성)은 전부 자동! 

3d7d239dc7815.gif



✅ 3단계: AI 에이전트에 사용할 모델 선택 및 배포하기 

이제 우리가 만든 프로젝트에 AI 모델을 연결해야 해요. 이 모델은 곧 에이전트의 ‘두뇌’가 되는 중요한 역할을 하죠! 


💡 모델 배포 순서: 
  1. 프로젝트에 들어가면 “모델 배포” 관련 화면이 뜹니다 
  2. Azure OpenAI 리소스를 선택 (보통 자동 설정됨) 
  3. 사용할 모델을 선택
    - GPT-4o
    - GPT-4o-mini 
  4. 지역 지정 후 모델 배포
    예: East US, South Central US 등 

배포는 수 분 내에 완료됩니다.
배포가 완료되면 AI Foundry가 자동으로 프로젝트와 모델을 연결해줍니다.
👉 GPT-4o는 성능이 우수하지만 비용도 있으니, 테스트 단계에서는 GPT-4o-mini도 충분합니다. 

a0968254f4dce.gif



✅ 4단계: 에이전트 구성 – 지침 추가 및 지식/도구 연결하기 

모델이 준비되었다면, 이제 AI 에이전트의 역할과 성격을 구체적으로 정의할 차례입니다. 


🧠 Agent 설정 화면에서는: 
  • Agent Name: 에이전트의 이름을 입력 (예: myFAQBot
  • Instructions (지침): 에이전트의 태도, 말투, 역할을 상세히 입력합니다. 


예시 지침: 

“당신은 고객지원 챗봇입니다. 사용자가 질문하면 회사의 FAQ를 바탕으로 친절하고 명확하게 답변하세요. 반드시 첨부한 파일 내에서만 답변주세요”
이 지침은 프롬프트의 기본 구조로 작용하며, 에이전트의 성능과 성격에 큰 영향을 줍니다. 


📚 Knowledge 탭: 에이전트에게 ‘지식’ 주입하기 

이제 에이전트에게 우리가 가진 문서정보학습시키는 단계입니다. 

  • PDF, TXT 등 문서를 업로드 (예: FAQ 문서) 
  • 업로드된 문서는 자동으로 벡터화되어 검색 기반 응답에 활용됩니다 
  • 최대 20개까지 업로드 가능 
  • 다양한 문서를 업로드해 복합 질문에 대응 가능하게 만들 수 있어요 


🛠 Actions 탭: 에이전트에 ‘도구’ 부여하기 

도구는 말 그대로 에이전트가 사용할 수 있는 기능입니다. 

예: 

  • Code Interpreter: 계산, 파이썬 코드 실행, 데이터 분석 
  • Web Search (Bing): 실시간 정보 검색 
  • Custom API 호출: 외부 서비스 연결

👉 도구를 부여하면 단순 텍스트 응답을 넘어서 “일하는 AI”로 진화하게 됩니다. 

6c4f6cbc561b2.gif



✅ 5단계: 에이전트 테스트 및 개선하기

마지막으로 우리 에이전트를 직접 테스트해볼 시간입니다! 

  1. 프로젝트 내 Playground 진입 
  2. 오른쪽 상단 “Try in playground” 클릭 
  3. 대화형 인터페이스에서 에이전트에게 질문 
  4. FAQ 문서 기반 질문 예시:
    “환불은 며칠 내에 처리되나요?”


결과가 부족하면? 
  • Instructions 보강 
  • Knowledge 문서 추가/삭제 
  • 모델 파라미터 조정 (Temperature, Max tokens 등) 

👉 수정한 뒤 바로 다시 테스트 가능! 


이 과정을 반복하면서 성능이 개선된 AI 에이전트를 완성할 수 있습니다.  

7b4abc92a08ef.gif



🎉 이제 여러분만의 AI 에이전트 완성!

우리는 이제 하나의 지능형 에이전트를 만들었고, 이 기술은 무궁무진한 응용이 가능합니다: 

  • 고객 상담 챗봇 
  • 사내 문서 요약 봇 
  • 일정 관리 비서 
  • 데이터 분석 어시스턴트

Azure AI Foundry는 클라우드, 인공지능, 코딩 지식이 없어도 여러분의 아이디어를 쉽고 빠르게 실현할 수 있게 도와줍니다. 



🧭 Call to Action

지금 바로 Azure AI Foundry 포털에 접속해서 여러분만의 에이전트를 만들어보세요! 샘플 화면에서는 RAG(검색 증강 생성)에 대한 부분만 보여드렸지만 코드해석과 웹검색도 얼마든지 추가하실 수 있으세요. 궁금한 점이 있다면 Microsoft Learn 문서나 Q&A 포럼도 참고해 보세요. 


그럼 다음 뉴스레터에서 만나요! 🤗

Contact us.

2miles | 윤혜식

4F, 15, Yangjaecheon-ro 23-gil, Seocho-gu, Seoul, Republic of Korea

02 6925 1308  |  info@2miles.co.kr

Business license: 895-16-00618 | 2020-서울강남-03791


© JOB,GREEGI 잡그리기의 모든 콘텐츠는 저작권법의 보호를 받으며, 무단 전재, 복사 및 재배포 등을 금합니다.


2miles | 윤혜식

4F, 15, Yangjaecheon-ro 23-gil, Seocho-gu, Seoul, Republic of Korea

02 6925 1308  |  info@2miles.co.kr

Business license: 895-16-00618 | 2020-서울강남-03791


© JOB,GREEGI 잡그리기의 모든 콘텐츠는 저작권법의 보호를 받으며, 무단 전재, 복사 및 재배포 등을 금합니다.