MicroGPT

이번 설에 케파시 뉴스를 하나 듣게 되었다. MicroGPT 한번 파해쳐 보쟈…! MicroGPT란 무엇인가 MicroGPT는 안드레이 카파시(Andrej Karpathy)가 공개한 순수 파이썬 GPT 구현이다. 200~250줄 정도의 코드로, 외부 라이브러리(NumPy, PyTorch, TensorFlow 등) 없이 GPT-2 스타일 트랜스포머를 학습과 추론까지 스스로 수행한다. 이 파일 자체가 “알고리즘의 완전한 구현체”이며, 나머지는 효...