Der Kaffernbüffel stellt den größten Vertreter der afrikanischen Rinder (Bovini) dar und erreicht die Ausmaße seiner asiatischen, wildlebenden Verwandten.
Insgesamt ist der Kaffernbüffel sehr kräftig gebaut und besitzt verhältnismäßig kurze Gliedmaßen und einen Buckel oberhalb der Schultern. Das Fell hat in beiden Geschlechtern eine rabenschwarze Färbung, bei alten Bullen kann es ausdünnen, so dass Flecken von dunkler Haut am Kopf sichtbar werden. Der Schwanz endet in einer auffälligen, ebenfalls dunklen Quaste. Der massige Kopf ist mit einem breiten Maul ausgestattet, die Nase ist feucht und nackt. Die großen, hängenden Ohren sind gefranst. Besonders auffällig zeigen sich die großen, am Ende spitzen Hörner, die quer über den vorderen Kopf verlaufend ansetzen und seitlich nach unten biegen. Sie spannen 73 bis 134 cm weit auseinander, die Länge der einzelnen Hörner über die Krümmung gemessen ist mit 66 bis 116 cm nahezu identisch zur Spannweite.