'부서뜨렸다'가 맞습니다. '부수다'에 '-어 뜨리다'가 연결된 '부숴뜨리다'로 생각하기 쉽지만 '부서뜨리다'가 맞는 말입니다. 그런데 이러한 현상은 '부수다'와의 관계를 생각하면 매우 예외적인 것입니다.
(1) ㄱ. 장난감을 부숴(←부수어) 버렸다.
ㄴ. 철수가 내 장난감을 부쉈어(←부수었어).
다른 경우에는 '부수다'의 활용형으로 보아 '부숴'로 적으면서 '부서뜨리다'는 '부서'로 적고 있기 때문입니다. '부서뜨리다/부서트리다, 부서지다'의 세 단어가 예외입니다.
'부서뜨리다/부서트리다'와 '부서지다'를 '부서'로 적는 것은 역사적으로 설명할 수 있습니다. 옛말 '븟어디다'를 보면 '부수다'가 생겨 나기 이전에 이미 '부서지다'가 만들어졌음을 알 수 있습니다. 즉 '부서지다'는 '부수다' 이전에 만들어진 말로 '부수다'에서 나올 만한 '부숴지다'의 자리에 이미 자리를 잡고 있는 말이라고 설명할 수 있습니다.
출처: 국립국어원