We are looking for the best

LLM Engineer (Ops)는 대규모 언어 모델(LLM)을 최적의 상태로 운영하고, 모델 및 서비스를 안전하게 관리합니다. 빠르게 변화하는 환경 속에서 LLM의 확장성과 안정성을 보장하고, 모델 및 서비스 전반의 안전성을 지속적으로 개선함으로써 모빌리티 혁신을 가속화하는 데 핵심적인 역할을 수행하게 됩니다.

Responsibilities

• LLM 학습 및 배포 Pipeline 전반의 효율적 개선

  • 버전 관리 및 모델 통합, 모델 검증 등 모델 라이프사이클을 체계적으로 운영

  • 빌드/배포 프로세스 자동화를 통해 반복 작업을 최소화하고 안정적인 운영 환경 확보

• 운영 중인 모델 성능 및 안정성 모니터링 시스템 구축

  • 서비스 지표(Log, Metric) 추적을 통해 모델 및 서비스의 이상 징후를 사전에 감지하고 해결

  • 알림 시스템 구현을 통해 문제 발생 시 신속하게 대응할 수 있는 체계 수립

• 클라우드 및 온프레미스 환경에서 대규모 LLM 서비스 운영

  • 고성능 인프라 설계 및 최적화를 통해 빠르고 안정적인 모델 서빙 제공

  • 다양한 환경에서 확장 가능한 기술 스택을 활용하여 효율적인 리소스 관리

Qualifications

• MLOps, DevOps 또는 유관 분야에서 5년 이상 경력

  • 대규모 ML 모델 배포·관리에 집중한 경험

• Docker 등의 컨테이너 기술 및 Kubernetes 활용

  • 대규모 고가용 시스템 구축 또는 운영 경험

• 딥러닝/머신러닝에 대한 전반적인 이해

  • 데이터 전처리, 모델 학습, 서빙 프로세스에 대한 협업 능력

• Workflow Orchestration 운영 경험

  • Airflow, KubeFlow, MLFlow 등 사용 경험

• 뛰어난 문제 해결 능력 및 커뮤니케이션 스킬

  • 여러 팀/파트너와 협력하여 복잡한 문제를 해결할 수 있는 역량

Preferred Qualifications

• 상용 서비스 Log·Metric 기반 품질 개선 시스템 구축 경험

  • Billing 시스템 구축·운영 경험

  • ELK 스택, LGTM 등을 활용한 데이터 수집·분석 경험

  • Kafka, Redis 등을 통한 스트리밍 데이터 처리 경험

• Kubernetes 상에서 GPU 서비스 구축·운영 경험

• 캐시 서버 운영 경험

  • Memcached, Redis 등의 캐싱 기술 사용 경험

• Safety API 구축 경험

  • LLM 윤리(Ethics) 연구 또는 혐오·편향 필터링 경험

Interview Process

• 서류전형 - 코딩테스트 - 화상면접 (1시간 내외) - 대면 혹은 화상면접 (3시간 내외) - 최종합격

• 전형절차는 직무별로 다르게 운영될 수 있으며, 일정 및 상황에 따라 변동될 수 있습니다.

• 전형일정 및 결과는 지원서에 등록하신 이메일로 개별 안내드립니다.

Additional Information

• 이력서 제출 시 주민등록번호, 가족관계, 혼인 여부, 연봉, 사진, 신체조건, 출신 지역 등 채용절차법상 요구 금지된 정보는 제외 부탁드립니다.

• 모든 제출 파일은 30MB 이하의 PDF 양식으로 업로드를 부탁드립니다. (이력서 업로드 중 문제가 발생한다면 지원하시고자 하는 포지션의 URL과 함께 이력서를 recruit@42dot.ai으로 전송 부탁드립니다.)

• 인터뷰 프로세스 종료 후 지원자의 동의하에 평판조회가 진행될 수 있습니다.

• 국가보훈대상자 및 취업보호 대상자는 관계법령에 따라 우대합니다.

• 장애인 고용 촉진 및 직업재활법에 따라 장애인 등록증 소지자를 우대합니다.

• 42dot은 의뢰하지 않은 서치펌의 이력서를 받지 않으며, 요청하지 않은 이력서에 대해 수수료를 지불하지 않습니다.

※ 지원 전 아래 내용을 꼭 확인해 주세요.

• 42dot이 일하는 방식, 42dot Way 보러가기 →

• 42dot만의 업무몰입 프로그램, Employee Engagement Program 보러가기 →