지난 주, Ars Technica 편집장 Ken Fisher와 나는 IBM과 협력하여 주최한 "Beyond the Buzz: An Infrastructure Future with GenAI and What Comes Next"라는 행사에 참석하기 위해 샌호세로 향했음.
행사에 참석한 모든 Ars 독자들에게 감사드리며, 참석하지 못한 분들을 위해 다음 달 DC에서 또 다른 행사를 진행할 예정임. 자세한 정보는 이 글의 끝부분에서 제공할 것임.
샌호세 행사 장소는 컴퓨터 역사 박물관이었음. 이곳은 행사에 적합한 장소였고, Ars는 CHM 관계자들에게 감사의 인사를 전하고 싶음.
Fisher는 개회 연설에서 "오늘의 연사와 주제는 우리가 운영하는 기술 환경의 복잡성과 빠른 진화를 반영하고 있다"고 언급했음. "우리는 생성 AI의 약속뿐만 아니라 인프라 요구, 보안 취약점, 환경적 영향에 대한 도전도 논의할 것임"이라고 덧붙였음.
첫 번째 패널은 데이터 센터의 환경적 영향에 대한 것이었음. 스탠포드 대학교의 Jeff Ball, IBM의 Joanna Wong, Ars의 수석 과학 편집자 Dr. John Timmer와 함께 이야기했음.
Jeff Ball은 "모든 전력이 동일하게 생성되지 않는다"고 주장했음. 클라우드 자원을 통해 환경 비용을 제3자에게 전가할 때, 클라우드 자원의 실제 물리적 위치가 탄소 발자국에 큰 영향을 미칠 수 있다는 점을 강조했음. 아이슬란드의 데이터 센터와 중국의 데이터 센터를 비교할 때, 비용은 비슷할 수 있지만, 중국의 데이터 센터는 석탄 전력을 사용할 가능성이 높고, 아이슬란드의 데이터 센터는 지열 에너지를 사용할 가능성이 높음.
Joanna Wong은 인프라가 종종 알려지지 않은 실패 지점에 시달린다고 언급했음. 이는 실패를 초래할 만큼 중요하지 않지만, 여전히 추가적인 컴퓨팅(즉, 에너지)을 소모하는 문제들임. 우리는 이러한 실패 지점을 항상 주의 깊게 살펴봐야 한다고 강조했음.
다음으로 보안 취약점과 AI 생성(또는 최소한 AI 감사) 코드에 대한 패널로 넘어갔음. Box의 Stephen Goldschmidt, 국방 혁신 부서의 Patrick Gould, IBM의 Ram Parasuraman과 함께했음.
AI 생성 코드에 대한 우려가 여전히 존재하지만, 패널리스트들은 생성 AI의 가장 적절한 역할은 인간 코딩을 보완하는 것이라고 언급했음. AI는 코드에서 취약점을 유발하는 오타를 찾아내는 데 도움을 줄 수 있으며, 완전히 AI 생성된 코드를 신뢰하기까지는 아직 멀었다고 강조했음.
마지막 패널은 "인프라 장기 게임"에 대한 것이었음. Freshworks의 Ashwin Ballal, Roblox의 Karun Channa, IBM의 Pete Bray와 함께했음. 예기치 않은 문제를 어떻게 예상할 수 있을지에 대한 질문은 어렵지만, 패널리스트들은 스마트한 요구 사항 수집, 회복력, 유연성의 조합이 필요하다고 답했음. 요구 사항 계획이 잘 이루어지면 회복력 있는 인프라를 구축할 수 있으며, 비상 운영 자금을 보유하고 있다면 예기치 않은 수요 급증에 대응할 수 있는 유연성을 가질 수 있다고 강조했음.