배경 내가 클라우드를 좋아 하고, 인공지능을 하지 않고 별로 좋아하지 않는 이유는 1) 수학이 싫어서 2) GPU 설정하기 싫어서. 두 가지로 나뉜다. 하지만, N 교수님이 당장 인공지능을 LLM을 돌려보라는 말을 하셔서 해야한다. 정확히는 스토리가 길지만, 언제나 그렇듯 원래 다른 사람의 일이였으나 어쩔 수 없이 울며 겨지먹기로 인공지능을 해야한다. 제약사항: PCI Passthrough 언제나 그렇듯, 우리의 환경은 클라우드 환경이다. 누군가는 아니 그냥 설치하고 cuda 툴킷 설치하면 되는거 아니냐? 그거 못 설치하면서 리눅스 한다고 하냐? 이래서 인프라 하는 놈들은 안된다. 이라는 말을 할지 모른다. 하지만, 우리에게는 언제나 그렇듯, 제약사항이 존재한다 우리의 머신은 RTX 4090 두대가 들어..

배경 기다리고 기다리던 Docker 시간이다. 사실 최근 팀플을 하면서 컨테이너를 만들 일이 많았다. 근데 뭔가 이걸 공개적으로 Docker Hub에 올리기는 상당히 수치스러운 컨테이너들이기 때문에, 자체적으로 호스팅을 하는게 낫지 않을까 하는 생각을 하게 되었다. 그러던 중 기존에 알던 Private Registry 등록을 실제로 한번 해보게 되었다. 절차는 복잡하지 않지만, 상당히 귀찮다. 참고 자료는: https://www.digitalocean.com/community/tutorials/how-to-set-up-a-private-docker-registry-on-ubuntu-22-04 https://devopscube.com/create-self-signed-certificates-openssl/..

배경 Y 교수님의 연구실에서 최근 내가 이런 저런 목적으로 VM을 너무 많이 만들었다. (전체 건물이 /24 서브넷인데, 그 중 28개 정도를 내가 먹었으니...) 또, 지난주에 OVS를 가지고 테스트 하다가, 스위치에서 루프가 돌아서 정보 인프라팀에서 왔다. 정확히 누가 잘못인지는 모르겠지만, 조금 찔린다. 아무튼 그래서 연구실 내부의 서브넷을 만들었다. 근데 또 여기서 문제가 생긴다. 내가 조금 서버를 많이 사용하는게 아니다. 각 VM마다 IP 하나씩 DHCP 할당이니까, Kubernetes 만 돌린다고 쳐도 최소 3개, 즉 IP 3개를 외워야 하는데, 최근 멍청해지고 있어서 그정도 외우기도 힘들다. 그래서 생각한게 자체 DNS 서버를 만들자는것이다. DNS는 뭐 다들 너무 잘 알테니까, 굳이 설명하..