https://www.itworld.co.kr/article/3950197/%ec%83%88-%eb%aa%a8%eb%8d%b8-%ea%b3%b5%ea%b0%9c-%ec%9d%b4%ed%9b%84-%ec%8b%9c%ec%8a%a4%ed%85%9c-%ea%b3%bc%eb%b6%80%ed%95%98%ec%98%a4%ed%94%88ai%c2%b7%ea%b5%ac%ea%b8%80-%ec%88%98%ec%9a%94.html

내용 정리

최근 구글의 제미나이 2.5 AI 모델과, 오픈AI의 4o image generation을 공개하면서 양사의 데이터센터에 과부하가 걸렸다. chatGPT의 서비스는 주로 엔비디아 GPU에 의존하고 있는데, 오픈 AI는 시스템이 개선될 떄까지 GPU 기반 AI 생성 기능 사용을 제한하는 속도 제한을 도입했다.

구글은 제미나이 실행에 자체 제작 TPU를 사용한다. TPU는 GPU보다 AI, 그래픽 등을 더 잘 처리하는 칩이다. 

엔비디아의 GPU는 전력을 대량으로 소모하고 있다. 과부하가 걸리거나 과열되면 자동으로 스로틀링 현상이 발생한다. 이는 성능 하락으로 이어진다.

🎀스로틀링(Throttling)
과도한 요청이나 처리량이 생기면 과부하를 막기위해 처리량을 줄이거나 처리하는 머신의 스펙을 낮춰서 과부하를 방지하는 처리 방식
   ✅ 소프트웨어:  API 요청을 일정 시간마다 한 번만 허용한다든가, 과도한 이벤트 발생을 무시 (ex. scroll, resize 이벤트 제한, API 요청 rate limit)
   ✅ 하드웨어:  성능(클럭 속도 등)을 의도적으로 낮춰서 발열을 줄이고, 기기 손상을 방지

덧붙여, 이제는 컴퓨팅 자원의 부족으로 AI 확장이 지연되지는 않는다고 한다. 또한 GPT나 제미나이 같은 LLM은 소스가 너무 무거우니 모델 크기를 줄이거나 코드를 최적화하는 방향으로 성장할 수도 있다. 딥시크는 GPT보다 더 경량의 모델로 더 나은 성능을 나타냈다. 하드웨어만이 답은 아니다는 말이다.

내 생각

TPU 칩에 대해 기초인공지능 시간에 배운 적이 있었는데, 구글에서 자체 제작한 건 줄은 처음 알았다.

Throttling을 검색해보다가 알게 된 것인데, 지마켓은 대기열 과도화를 처리하기 위해서 redis를 사용한 redcarpet 시스템을 사용한다고 한다. 2022년 테크글이여서 아직도 사용하는 지는 알 수 없지만 max 5만 tps 까지 문제없이 처리했다고 하니 대단한거 같긴 하다.

딥시크가 GPT보다 경량의 모델로 더 나은 성능을 보여준다는 점이 여기서도 또 나온다. GPT는 대체 어떻게 만들었고, 딥시크는 대체 어떻게 만들었을까? 그리고 결국 내 컴퓨터는 GPT든 다 하드웨어가 필요하지 않는가... 한계는 있을 수 밖에 없을 것이다. 다만 그 한계를 어디까지 미루느냐의 차이일 것이다.

이 부분을 작성하면서 졸업 프로젝트로 "온디바이스 화상 회의 서비스"를 만들었을 때가 기억났다. 그때도 유저 대부분이 고성능 GPU를 장착하지 않은 노트북으로 회의를 할 것이라고 생각해서 온디바이스적 요소를 넣는데에 꽤 애를 먹었다. GPU를 넘어 TPU도 쓰이고 있는데, 미래에는 CPU가 없어질까?

출처: https://thehackernews.com/2025/03/github-action-compromise-puts-cicd.html

GitHub Action 침해로 23,000개 이상의 리포지토리 CI/CD 보안이 위험에 처하다

사이버 보안 연구원들은 GitHub Action인 tj-actions/changed-files가 지속적으로 CI/CD 워크플로우에서 사용되면서 보안 정보가 유출되었다는 사건에 주목하고 있다.

이번 사건의 대상은 tj-actions/changed-files가 사용된 23,000개 이상의 리포지토리로, 해당 액션은 파일과 디렉토리의 변경 사항을 추적하고 검색하는 데 활용된다.

이 공급망 침해 사건은 CVE 식별자 CVE-2025-30066이 부여되었으며, 2025년 3월 14일에 발생했다.

공격 과정에서 해커들은 액션 코드를 수정하고, 다수의 태그 버전을 소급 업데이트하여 악성 커밋을 참조하도록 만들었다. 이 침해된 액션은 GitHub Action 빌드 로그에 CI/CD 시크릿을 유출하는 역할을 한다.

결과적으로, 공개된 워크플로우 로그는 액션이 실행 중일 때 비인가 민감 정보가 유출될 수 있음을 보여준다. 이 시크릿에는 AWS 액세스 키, GitHub PAT, npm 토큰, 개인 RSA 키 등이 포함되어 있으나, 유출된 정보가 공격자가 제어하는 인프라로 이동했다는 증거는 없다.

특히, 악성 삽입 코드는 runner 워커 프로세스의 CI/CD 시크릿을 유출하는 파이썬 스크립트를 GitHub Gist에서 실행하도록 설계되었으며, 이는 확인되지 않은 소스 코드 커밋에서 비롯되었다. 이후 GitHub Gist는 셧다운 상태에 들어갔다.

tj-actions/changed-files는 조직의 소프트웨어 개발 파이프라인에서 사용되며, 개발자들이 코드 리뷰 후 보통 메인 브랜치에 병합한 코드를 기반으로 파이프라인을 통해 빌드 및 배포를 진행하는 과정에서 활용된다. 이 액션은 커밋, 브랜치, PR 간에 파일이 추가, 수정, 삭제된 내역을 추적할 수 있도록 해준다.

해커들은 액션 코드를 수정하고 악성 커밋을 참조하기 위해 다수의 태그 버전을 소급 업데이트했으며, 이로 인해 수천 개의 CI 파이프라인에 영향을 미치면서 CI/CD 시크릿을 유출하는 악성 파이썬 스크립트를 실행하게 되었다.

이번 tj-actions/changed-files 침해 사건은 확산 중인 CI/CD 환경에서의 공급망 공격 위험을 다시 한번 부각시킨다. 악성 페이로드는 자동 스캐닝 도구의 탐지를 피하기 위해 정교하게 숨겨져 있었다.

프로젝트 소유자들은 익명의 해커들이 침해된 리포지토리에 접근 권한이 있는 @tj-actions-bot이 사용한 GitHub PAT을 해킹하려 시도했다고 전한다. 이에 따라 계정 비밀번호는 업데이트되었고, 인증 방식은 패스키 사용으로 업그레이드되었으며, 권한 수준도 최고 등급으로 재설정되었고, 침해된 PAT은 사용 중지되었다.

영향을 받은 개인 액세스 토큰은 사용 중지된 GitHub Action 시크릿에 저장되어 있으며, 재발 방지를 위해 모든 tj-actions 조직의 프로젝트에서는 더 이상 PAT 사용이 허용되지 않을 예정이다.

GitHub Action 사용자들은 최신 버전으로 업데이트할 것을 권고하며, 3월 14일~15일 사이에 실행된 워크플로우를 검토해 변경된 파일로 인한 예기치 않은 결과가 없는지 확인해야 한다.

이번 보안 이슈는 처음이 아니다. 2024년 1월, tj-actions/changed-files와 tj-actions/branch-names에서 임의의 코드 실행을 허용하는 치명적 결함(CVE-2023-49291, CVSS 점수: 9.8)이 발견된 바 있다.

이번 사건을 통해 오픈소스 소프트웨어가 최종 사용자에게 전달되는 공급망 위험에 노출될 수 있음을 다시 한 번 실감하게 되었다.

2025년 3월 15일, 모든 버전의 tj-actions/changed-files Action이 공격을 받았다. 해시 핀(hash-pinned) 버전을 사용 중이던 고객들은 공격 시점에 업데이트하지 않았다면 영향을 받지 않을 것으로 보인다.

CI/CD

CI(Continuous Integration): 지속적인 통합

→ 코드 변경 사항이 정기적으로 빌드 및 테스트되어 공유 레포지토리에 통합되는 것

• 빠른 버그 확인 및 해결
• 소프트웨어 품질 개선
• 새로운 업데이트의 검증 및 릴리즈 시간 단축

CD(Continuous Delivery/Deployment): 지속적인 배포

→ 공유 리포지토리로 자동으로 릴리즈 & 프로덕션 레벨까지 자동으로 배포

• 빠른 시간 내에 고객에게 릴리즈 되는 것

• compromise: 침해
• retrieve: 검색하다
• retroactively: 소급하여
• siphon: 이동하다
• unverified: 확인되지 않은
• deploy: 배포
• revoked: 취소됨
• pave: 덮어쓰다
• susceptible: 느끼기 쉬운