최근 생성형 AI 기술의 발전과 함께 코딩 어시스턴트가 주목받고 있습니다. 그러나, 업레벨(Uplevel)에서 발표한 새로운 보고서에 따르면 AI 코딩 도구가 기대했던 만큼의 생산성 향상과 번아웃 방지 효과를 제공하지 못한다는 결과가 나왔습니다.
많은 개발자들이 깃허브 코파일럿 같은 AI 코딩 도구를 사용해 코드를 작성하고 있지만, 실제로 이를 사용한 개발자들의 생산성 지표에서 큰 개선은 발견되지 않았습니다.
이번 글에서는 업레벨의 연구 결과를 자세히 분석하고, AI 코딩 어시스턴트의 한계와 향후 가능성에 대해 살펴보겠습니다.
주요 연구 결과
업레벨의 연구는 약 800명의 개발자가 3개월 동안 깃허브 코파일럿을 사용한 데이터를 분석했습니다.
이와 함께, AI 도구를 사용하기 전과 후의 PR(풀 리퀘스트) 주기 및 PR 처리량을 비교하여 생산성 변화를 측정했습니다.
그러나, 기대와 달리 코파일럿을 사용한 그룹에서 유의미한 생산성 향상이 관찰되지 않았습니다.
오히려 코파일럿을 사용할 때 버그 발생률이 41% 증가했다는 결과가 나왔습니다.
주요 지표
- PR 주기: 코드를 병합하는 데 걸리는 시간. 코파일럿 사용 후에도 큰 변화가 없었음.
- PR 처리량: 병합된 풀 리퀘스트 수. 도구 사용 전후 유의미한 차이 없음.
번아웃 방지 효과도 미미
이번 연구는 AI 코딩 도구가 개발자의 번아웃 방지에도 큰 도움이 되지 않는다는 사실을 밝혀냈습니다. 연구에 따르면 코파일럿 사용 여부와 관계없이 표준 시간 외 작업은 줄어들었지만, 오히려 코파일럿을 사용하지 않았을 때 작업 시간이 더 많이 감소했습니다.
이는 AI 도구를 사용하면서도 여전히 개발자들이 코드 리뷰나 디버깅 과정에서 많은 시간을 할애해야 한다는 점을 시사합니다.
따라서, AI 도구가 코드 작성 속도를 높일 수는 있지만 전체적인 개발 과정에서는 크게 유리하지 않을 수 있다는 지적이 나옵니다.
AI 코딩 어시스턴트의 한계
업레벨의 보고서는 AI 코딩 어시스턴트가 가진 잠재적 한계를 몇 가지 지적하고 있습니다.
- 버그 증가: AI가 생성한 코드에서 발생하는 버그가 더 많다는 것이 큰 문제입니다. 코드를 자동으로 생성해 주기는 하지만, 그만큼 디버깅과 오류 수정이 어려워집니다.
- 일관성 문제: AI 도구가 생성한 코드가 일관성이 떨어지는 경우가 많습니다. 이는 개발자가 AI를 사용해 다양한 프롬프트를 입력하면서 코드 스타일이 불규칙해지는 현상으로 이어집니다.
- 초기 기대 대비 실망: 많은 사람들이 AI가 코드 리뷰나 오류 수정을 도와주리라 기대했지만, 실제로는 그 과정에서 오히려 시간이 더 많이 걸리게 된 사례가 많습니다. 이는 AI가 생성한 코드를 그대로 사용하는 것이 아니라 검토하고 수정하는 데 많은 리소스가 투입되기 때문입니다.
긍정적인 사례와 잠재력
그럼에도 불구하고 일부 현장에서는 AI 코딩 도구가 생산성을 향상시키는 사례도 존재합니다.
예를 들어, 이노베이티브 솔루션의 CTO 트래비스 렐은 클로드 데브와 깃허브 코파일럿을 통해 개발자 생산성이 2~3배 향상되었다고 전했습니다.
그는 특정 프로젝트에서 AI 도구를 사용해 작업 시간이 30일에서 24시간으로 단축된 경험을 언급했습니다.
이러한 사례는 AI 도구가 일부 작업에서는 유용할 수 있음을 보여줍니다.
특히, 코딩 과정에서 반복적인 작업을 최적화하고, 간단한 코드를 빠르게 작성하는 데는 큰 효과를 발휘할 수 있습니다.
AI 코딩 도구, 적절한 사용이 필요
AI 코딩 어시스턴트는 분명 기술적으로 발전하고 있으며, 특정 상황에서 생산성을 크게 높일 수 있습니다. 하지만 이번 업레벨 연구 결과에서 보듯, 기대만큼의 전면적인 생산성 향상을 보장하지는 않으며, 버그 증가와 디버깅의 어려움이 여전히 존재합니다.
따라서, AI 도구를 사용할 때는 적절한 기대치를 가지는 것이 중요합니다. AI가 모든 문제를 해결해 줄 것이라는 과도한 기대 대신, 보완적인 도구로 활용하여 특정 작업의 속도를 높이고, 여전히 중요한 부분은 개발자가 직접 검토하는 방식이 필요합니다.
구독!! 공감과 댓글,
광고 클릭은 저에게 큰 힘이 됩니다.
Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.
'Development News > AI' 카테고리의 다른 글
구글, AI 챗봇 '바드' 진화시켜 180개국에 동시 출시! (6) | 2024.09.30 |
---|---|
AI2, 오픈 소스 LMM ‘몰모’ 공개..."100배 적은 데이터 학습으로 GPT-4o 능가" (1) | 2024.09.30 |
노트북LM, 구글의 AI 히트작으로 부상...유튜브·오디오 파일 업데이트 (7) | 2024.09.30 |
애플, 비전 프로 2세대 내년 하반기 출시...핵심은 AI와 결합 (1) | 2024.09.30 |
카카오, AI 언어모델 성능 평가 위한 ‘펑션챗-벤치’ 데이터셋 오픈소스 공개 (9) | 2024.09.29 |