De kleine hoefijzerneus is de kleinste Europese hoefijzerneus. Hij heeft een pluizige bruinige rugvacht en een grijswitte onderzijde. Hij heeft, net als de grote hoefijzerneus, een hoefijzervormige huidzoom op de neus waarmee de uitgezonden echolocatie wordt geconcentreerd (Dietz et al. 2011). De soort is zeer klein, met een lichaamsgewicht tot 10 g, een kop-romplengte tot 45 mm en een spanwijdte tot 25 cm (Schober & Grimmberger 1998). De echolocatiepulsen hebben een voor hoefijzerneuzen kenmerkende constante, hoogfrequente toon. Met de relatief brede vleugels zijn kleine hoefijzerneuzen erg wendbaar en kunnen ze goed door dichte vegetatie vliegen (Norberg 1994). Ze zijn in staat om insecten op zeer korte afstand van de vegetatie te vangen (Jones & Rayner 1989).