It's not so much "reject the Torah" as shorthand for "reject the traditional Jewish interpretation of the Torah, including to what extent it is binding today."
Maimonides, Laws of Repentance 3:17
ג,יז שלושה הן הכופרים בתורה: האומר שאין התורה מעם ה', אפילו פסוק אחד, אפילו תיבה אחת--אם אמר משה אמרו מפי עצמו, הרי זה כופר בתורה; וכן הכופר בפירושה, והיא תורה שבעל פה, והכחיש מגידיה, כגון צדוק ובייתוס; והאומר שהבורא החליף מצוה זו במצוה אחרת, וכבר בטלה תורה זו, אף על פי שהיא הייתה מעם ה', כגון הנוצריים וההגריים. כל אחד משלושה אלו כופר בתורה.
The following are all considered "denying the Torah" [from our perspective]: Claiming the Torah is not of divine origin ... denying its interpretation which is the Oral Law [i.e. the Talmud] ... or saying that G-d replaced these commandments with others, rendering our Torah non-binding.
As, to the best of my knowledge, Muslims do not accept the Talmudic interpretation of the Torah as currently binding upon them, for a Jew to practice Islam would be seen as "denying the Torah" in that sense.
Effectively, Maimonides explained that his term "deny" can include "accept deprecation"; that's just how the terminology got picked up.