ENG

발간물

자본시장포커스

국내 기관투자자의 주식거래비용: 평가와 시사점
2019 08/27
국내 기관투자자의 주식거래비용: 평가와 시사점 2019-18호 PDF
요약
주문의 집행과정에서 발생하는 암묵적 거래비용은 거래규모가 큰 기관투자자의 투자성과에 영향을 미치는 주요 요인 중 하나로 북미와 유럽에서는 투자전략의 수립과 투자성과평가에 있어 핵심적인 요소로 간주한다. 2009년부터 2018년까지 국내 주식시장에 대한 분석에 따르면 국내 기관투자자의 암묵적 거래비용은 외국인에 비해 현저히 높은 것으로 나타나며, 국내 기관투자자가 외국인과 유사한 수준의 주문집행 성과를 달성한다고 가정할 때 2018년 기준으로 1조원 이상의 거래비용이 절감되는 것으로 추정된다. 국내 기관투자자의 비중과 역할이 급속히 증가하는 현 시점에서, 암묵적 거래비용을 최소화할 수 있는 주문집행 전략의 채택과 시장인프라 구축, 그리고 거래비용분석 체계의 활용은 시급한 과제로 판단된다. 이는 운용수익률을 제고하는 중요한 수단일 뿐만 아니라 국내 기관투자자와 중개기관의 경쟁력 제고를 위해서도 필수적이다.

경제성장과 함께 금융자산이 축적되고, 인구고령화에 따라 자산증식 수요가 증가하면서 국내 자본시장에서 기관투자자가 차지하는 비중과 역할은 지속적으로 확대되고 있다. 공사모펀드, 보험, 연기금 등 국내 기관투자자의 운용자산 규모는 2008년 약 800조원에서 2018년 약 2,200조원으로 성장하였으며 이러한 성장세는 당분간 이어질 것으로 전망된다.

기관투자자는 대규모 자금을 집합적으로 운영함으로써 효과적으로 분산투자를 달성할 수 있고, 투자대상에 대한 정보를 쉽게 취득하고 분석하여 투자전략에 활용할 수 있으며, 대량거래를 통해 각종 수수료 비용을 절감할 수 있다. 개인투자자가 확보하기 어려운 요소들로, 개인투자자의 직접투자에 비에 높은 투자성과를 제공하는 기반이 된다. 이러한 비교우위를 바탕으로 높은 투자성과를 실현할 수 있는지 여부가 기관투자자의 경쟁력을 형성한다.

본고에서는 국내 주식시장 기관투자자의 거래비용에 대해 분석·평가하고 시사점을 제시하고자 한다. 기관투자자의 거래비용은 투자성과를 결정하는 중요한 구성요소임에도 불구하고 거래수수료나 증권거래세와 같이 통제 불가능한 비용으로만 인식되어 기관투자자의 투자전략이나 투자성과평가에 대한 논의에 있어 간과되어 온 측면이 있다. 그러나 거래비용에는 사전적으로 요율이 확정된 비용뿐만 아니라 주문의 체결과정에서 발생하는 암묵적 비용도 포함되며 전체 거래비용에서 상당한 비중을 차지하는 것으로 평가된다. 이러한 암묵적 비용은 거래규모가 클수록 증가하고 유동성과 변동성 수준에 따라 변화하므로 이를 최소화하는 주문집행 전략을 구사하는 것은 기관투자자의 투자성과를 제고하는 중요한 수단이 된다. 특히 경제성장률의 둔화와 함께 주식시장의 기대수익률이 낮아지는 상황에서 암묵적 거래비용 절감의 중요성은 보다 강조될 필요가 있다.


국내 기관투자자의 암묵적 거래비용 평가

먼저 국내 주식시장에서 기관투자자의 암묵적 거래비용을 검토해보자. 기관투자자를 공사모펀드, 보험·연기금, 외국인 등 세 가지 유형으로 구분하고, 2009년부터 2018년까지 유가증권시장과 코스닥시장 전체 상장주식을 대상으로 분석한다.

암묵적 거래비용은 투자자 유형별 일중 평균체결가격을 벤치마크 가격과 비교하여 측정한다. 평균 매수체결가격이 벤치마크 가격보다 높을 때, 평균 매도체결가격이 벤치마크 가격보다 낮을 때 거래비용이 발생하는 것으로 평가한다. 벤치마크 가격은 각 거래일의 시가(opening price), 일중 평균체결가(volume-weighted average price, 이하 VWAP), 종가(closing price) 등 세 가지 가격을 이용한다.

시가를 벤치마크로 삼는 경우, 기관투자자가 시가를 기준으로 주가의 적정성을 평가하고 당일의 거래 의사결정을 내리는 것으로 간주한다.1) 매수(매도)결정에 따라 일중에 체결된 가격이 시가보다 1% 높다면(낮다면) 주문의 체결과정에서 1%의 거래비용이 발생한 셈이고 투자자의 실현수익률은 1% 하락하게 된다. VWAP을 벤치마크로 삼는 경우, 각 투자자 유형의 평균체결가와 해당 유형을 제외한 나머지 투자자의 평균체결가를 비교하는 방법이다.2) 이것은 거래비용의 절대적인 크기를 측정하는 것이 아니라 거래비용을 상대 비교하여 주문집행의 성과를 측정하는 방식이다. 마지막으로 종가를 벤치마크로 삼는 것은, 운용자산의 가치평가가 종가를 기준으로 이루어지기 때문에 종가를 주문집행의 기준으로 삼을 유인이 있다는 점을 고려한 것이다. 그러나 종가는 당일 거래의 의사결정 기준가격과 무관하고 일중 거래에 의한 가격충격(market impact)을 반영하므로 거래비용의 평가척도라기보다는 추적오차(tracking error)의 평가척도에 가깝다.

아래 그림에 세 가지 벤치마크를 이용해 계산한 값이 연도별로 제시되어 있다. 먼저 기관투자자 유형별 평균체결가격과 시가를 비교한 결과(A)를 보면, 공사모펀드 및 보험·연기금의 거래비용이 외국인에 비해 전 기간에 걸쳐 현저히 높은 것으로 나타난다. 2018년 기준으로, 외국인은 시가에 비해 13bp 높은/낮은 가격에 매수/매도하는 데 비해 보험·연기금은 75bp, 공사모펀드는 87bp 높은/낮은 가격에 매수/매도하는 것으로 나타난다. 2018년 국내 기관투자자의 거래비용을 금액으로 환산하면 약 3조 1,300억원에 달하는데(보험·연기금 약 1조 2,600억원, 공사모펀드 약 1조 8,700억원), 이는 증권거래세, 위탁매매수수료 등 명시적 거래비용 약 1조 600억원의 3배 수준이다. 

VWAP을 벤치마크로 이용하여 평가할 경우(B)에도 국내 기관투자자의 주문집행 성과는 전체 기간에서 외국인에 비해 열악한 것으로 나타난다. 2018년 기준으로 보험·연기금과 공사모펀드의 주문은 VWAP 대비 각각 22bp, 21bp 불리하게 체결되는 반면 외국인의 주문은 VWAP 대비 5bp 유리한 가격에 체결되는 것으로 분석된다. 국내 기관투자자가 외국인과 비슷한 수준으로 주문집행성과를 달성한다고 가정할 때, 2018년 기준으로 보험·연기금은 약 4,600억원, 공사모펀드는 약 5,600억원의 거래비용이 절감된다. 특징적인 것은 외국인의 경우 주문집행의 성과가 꾸준히 개선되고 있다는 점이다. 2009년 5bp 수준에서, 2017년 -2bp, 2018년 -5bp로 음(-)의 값으로 하락하는 것을 볼 수 있다. 즉 외국인은 최근 VWAP에 비해 낮은 가격에 매수하고 높은 가격에 매도한다는 것이다.
 


 

마지막으로 종가를 벤치마크로 사용한 결과(C)를 보면 여전히 외국인의 주문집행 성과가 국내 기관투자자에 비해 우수하게 나타난다. 다만, 전체 분석기간에서 보험·연기금은 평균 0bp, 공사모펀드는 평균 -2bp로 국내 기관투자자의 경우에서도 낮은 값을 보인다. 실무적으로 종가를 주문집행의 목표가격으로 설정하고 있기 때문인지는 파악할 수 없으나 국내 기관투자자의 일중 평균체결가는 종가에 근접한 수준에서 형성되고 있는 것으로 확인된다. 앞서 언급한 바와 같이 이 결과를 거래비용을 절감하기 위한 주문집행의 성과로 평가하기는 어렵다.
 

이상의 분석을 통해 국내 기관투자자는 외국인에 비해 현저히 높은 암묵적 거래비용을 지불하고 있는 것을 알 수 있다. 10년간의 분석기간 동안 일관되게 관찰된다는 점에서 그 격차는 체계적이다. 추가적인 분석을 통해 확인한 바에 따르면, 거래대상 주식의 유동성 혹은 변동성 격차에 의해 나타나는 결과가 아니며 매수거래와 매도거래의 비대칭적인 거래비용에 의한 결과도 아닌 것으로 보인다. 암묵적 거래비용을 최소화하는 주문집행전략의 채택 여부가 거래비용 격차의 핵심 원인인 것으로 추정된다.

 

암묵적 거래비용의 절감 수단

암묵적 거래비용을 절감하는 방법은 크게 세 가지로 구분해 볼 수 있다. 첫째, 주문을 적절하게 분할하는 것이다. 대규모 물량을 일시에 매수(매도)할 경우 평균체결가격은 상승(하락)할 수밖에 없으므로 대규모 물량을 다수의 소규모 물량으로 쪼개 체결하는 방식이다. 다만 주문을 분할할 경우 주문집행이 완료되기까지 소요되는 시간이 길어지므로 가격변동(본질가치의 변화) 위험에 노출된다. 둘째, ‘reserve(hidden) order’, ‘peg order’ 등과 같은 주문 유형을 활용하는 방법이다.3) reserve(hidden) order는 지정가주문 수량의 일부(전부)가 호가장(order book)에 공개되지 않는 주문이다. 투자자는 시장가주문(market order)보다 유리한 가격에 체결하기 위해 지정가주문(limit order)을 이용할 수 있는데, 대량의 주문이 지정가주문으로 노출될 경우 거래수요를 인지한 투자자들에 의해 시장가격이 불리한 방향으로 움직일 수 있다. reserve(hidden) order는 이러한 위험성을 줄이기 위해 이용된다. peg order는 지정가주문의 가격이 최우선호가의 변동에 따라 자동적으로 변화하는 주문이다. 가격변동이 큰 경우 거래비용을 줄이고 체결가능성을 높이기 위해서는 지정가주문 가격을 가격변화에 맞춰 수정할 필요가 있는데 peg order는 이러한 작업을 자동적으로 처리해준다. 셋째, 대안적인 거래체결 메커니즘을 활용하는 방법이다. 정규거래소의 연속경쟁매매방식이 아닌 최우선 매수호가와 매도호가의 중간값이나 VWAP에 거래를 체결하는 것으로, 일반적으로 대체거래시스템(alternative trading system)을 통해 이루어진다.4) 기관투자자간 거래로 처리되어 대규모 거래가 가능하고 거래현황이 실시간으로 공개되지 않아 거래정보 노출의 위험이 낮다. 다만 거래참여자가 제한되므로 체결가능성은 정규시장에 비해 떨어진다.  

이러한 수단들은 북미와 유럽시장에서 2000년대 이후 급속히 확산되어 현재 보편적으로 활용되고 있다. 거래시장(거래 메커니즘)의 선택, 주문의 분할, 주문유형의 선택 등 주문집행과 관련된 복잡한 의사결정은 거래비용분석(transaction cost analysis, TCA)이라 불리는 관리체계 하에서 이루어지며, 여기에 기반한 주문집행은 흔히 거래비용 최소화를 목적함수로 둔 알고리즘매매(algorithmic trading)를 통해 구현된다. 거래비용분석은 운용수익률 제고를 위해, 사전적으로 거래비용을 추정·예측하고 사후적으로 거래비용 또는 주문집행 성과를 평가하는 체계를 의미한다. 물론 핵심적인 분석대상은 암묵적 거래비용이다.

북미와 유럽의 기관투자자를 대상으로 한 최근 조사에 따르면 조사대상 중 88%가 주식거래에 거래비용분석을 활용한다고 응답한 것으로 나타난다.5) 미국시장 주식거래의 35%는 정규거래소 이외의 거래시장에서 체결되며, 정규거래소 거래의 15%는 비공개주문을 통해 이루어진다. 알고리즘매매의 비중은 65%에 달한다.6) 사실, 앞서 소개한 비전통적인 주문유형이 새롭게 등장한 것이나 대체거래시스템이 활성화된 것은 모두 거래비용을 최소화하고자 하는 기관투자자의 수요에 의한 것이며, 북미와 유럽의 시장규제체제의 핵심을 이루는 최선집행원칙(best execution rule)은 거래시장간 경쟁환경 하에서 중개업자의 효율적인 주문집행을 규율하기 위해 도입된 것으로 이해할 수 있다. 


한국 주식시장에 대한 시사점

한국 주식시장에서 국내 기관투자자와 외국인 사이에 나타나는 현저한 거래비용 격차는 암묵적 거래비용의 중요성에 대한 인식의 차이와 그로 인한 주문집행전략의 차이에서 비롯된 것으로 보인다. 기관투자자의 비중과 역할이 급속히 확대되고 있는 현 시점에서, 암묵적 거래비용을 최소화할 수 있는 주문집행 전략의 채택과 시장인프라의 구축, 그리고 거래비용분석 체계의 활용은 시급한 과제로 판단된다. 이는 기관투자자의 운용수익률을 제고하는 중요한 수단일 뿐만 아니라 국내 중개기관과 기관투자자의 경쟁력 제고를 위해서도 필수적이다.
 


1) 이 관점에서 본다면 전일 종가를 벤치마크로 활용하는 것도 가능한데, 분석결과는 시가를 벤치마크로 활용한 결과와 유사하다.
2) 모든 투자자의 거래를 이용해 VWAP을 계산할 경우, 특정 투자자 유형의 거래비중이 높을수록 해당 투자자 유형의 평균체결가는VWAP에 수렴하기 때문에 평가 결과가 왜곡될 수 있다. 이러한 왜곡을 줄이기 위해 특정 투자자 유형에 대한 벤치마크 VWAP을계산할 때 해당 투자자 유형의 거래는 제외한다.
3) 이러한 주문유형의 명칭과 구체적인 작동방식은 거래시장에 따라 다소 차이가 있다.
4) 정규거래소에서 별도의 체결시스템을 제공하는 경우도 있으며, 중개기관의 내부화(internalization)와 장외시장의(OTC) 양자간(bilateral) 거래도 유사한 특성을 갖는다.
5) Greenwich Associates, 2019, The State of Transaction Cost Analysis.
6) 거래시장별 거래비중, 비공개주문 체결비중, 알고리즘매매 비중은 각각 CBOE, SEC, Goldman Sachs의 통계를 바탕으로 한다.