논문·기술 글 한 장 요약 모음
카톡방에서 정리한 논문·기술 글입니다. 헤드라인보다 실험 범위와 한계를 같이 보는 연습용으로 좋습니다. 파워 리텐션: 어텐션 없이 긴 문맥을 처리하는 구조 Brain-IT: fMRI 1시간으로 본 이미지를 복원 프롬프트 한 줄로 답을 다양하게: Verbalized Sampling CLA
카톡방에서 정리한 논문·기술 글입니다. 헤드라인보다 실험 범위와 한계를 같이 보는 연습용으로 좋습니다. 파워 리텐션: 어텐션 없이 긴 문맥을 처리하는 구조 Brain-IT: fMRI 1시간으로 본 이미지를 복원 프롬프트 한 줄로 답을 다양하게: Verbalized Sampling CLA
카카오가 상업 이용까지 허용한 비전 인코더 2종 소개입니다. 작은 모델이 한국어 문자 인식에서 큰 글로벌 모델보다 앞섰다고 합니다. 카카오가 새롭게 오픈소스로 공개한 AI 비전 인코더 소식이 있어 공유해 드립니다! 요즘 AI가 사람처럼 화면을 보고 직접 마우스를 움직여 조작하는 '컴퓨터
GPT-6가 나폴레옹 시대 암호를 푼 과정을 뜯어봤습니다. 영감이 아니라 자료 탐색과 파이썬 빈도 분석으로 가설을 검증한 루프입니다. 오픈AI의 GPT-6 아스트라가 217년 동안 풀리지 않던 나폴레옹 시대 군사 암호를 단 6시간 만에 풀어냈다는 뉴스가 화제인데, 뜯어보니 기술적인 시사
메모리 주가를 흔든 구글 TurboQuant(KV 캐시 3비트 압축) 정리입니다. 이미 1년 전 논문이라는 점, 실험 범위와 한계를 함께 짚었습니다. 어제 메모리 반도체 주식들을 폭락하게 만든 구글 리서치에서 'TurboQuant'라는 LLM 메모리 압축 기술에 대해 정리 해보았습니다
뇌 영상 데이터로 사람이 본 이미지를 복원하는 Brain-IT 논문 요약입니다. 최근 Weizmann 연구소에서 발표된 Brain-IT라는 모델이 흥미로워서 정리해봤습니다. 이 모델은 fMRI(뇌 기능 자기공명영상) 데이터를 이용해 사람이 실제로 본 이미지를 복원하는 기술인데요. 기존에
트랜스포머의 어텐션을 고정 크기 메모리로 바꾼 파워 리텐션(Brumby 모델) 소개와 심화 정리 2편을 합쳤습니다. 요즘 AI 업계에서 주목받는 새로운 아키텍처가 등장했습니다! ‘파워 리텐션(Power Retention)’이라는 구조로, 트랜스포머의 핵심이던 ‘어텐션’을 완전히 없엔 구