W roku 1871 armia niemiecka wprowadziła na wyposażenie karabiny tej marki, następnie dzięki wsparciu rządowemu Mauser’y szybko rozpowszechniły się na całym świecie, co stymulowało prace nad nowymi modelami. W roku 1935 stał się podstawową bronią Wehrmachtu. Do końca wojny wyprodukowano około 11 milionów egzemplarzy tego karabinu w różnych wersjach. Wraz z lunetą Zf 41 lub Zf 42 był również używany jako broń strzelców wyborowych.
Mauser 98K był podstawową bronią żołnierzy piechoty polskiej w czasie m.in. kampanii wrześniowej.