De grijze walvis is vlekkerig grijs van kleur, tot circa 15 m lang, met een stompe, bijna driehoekige, enigszins gebogen kop. Een rugvin ontbreekt, de staartwortel is voorzien van een rij knobbels. De talrijke witte of oranjeachtige vlekken worden gevormd door concentraties van zeepokken en walvisluizen. De achterrand van de staart is gebogen accoladevormig en gekarteld. De korte baleinen zijn lichtgeel.