In the book "Shu"t Ach Tov Leyisrael" by Rabbi Efraim Kachlon, he has a siman discussing the potential Avodah Zara status of Islam, and he mentions this claim about the Rogatchover (pg. 134-135):
"ואשר ע"י השנ'י שכתב לערער ולומר שיש לישמעאלים דין עוע"ז הוא במה שראיתי בספר הרוגצ'ובי (עמ' 157), וזתו"ד שם פעם נסבבה שיחה עם הגאון (ר' יוסף רוזין בעל הצפנת פענח) אודות המוסלמים, ואחד הנוכחים הזכיר את פסק דין של הרמב"ם (שם), כי הנוצרים הם עוע"ז אך המוסלמים אינם כאלה...נענה הגאון ואמר כי לדעתו כיום גם המוסלמים הם עוע"ז, כיון שסמלם הוא חצי ירח והם עובדים לירח. וזאת מכיון שברובם היו יושבי מדבריות שם המים נחוצים ביותר והגאות והשפל של המים נקבעת ע"פ הירח. והגאון המשיך- הרמב"ם לא פסק שהם עוע"ז כיון שהוא התגורר בארצות האיסלם, ופסק כזה היה בגדר סכנה ופיקו"נ, ולמעשה יש להקל ולסמוך על הדעה שאכן אינם עוע"ז. עכ"ד. והרואה יראה דפלי"ד כל דברי הרמב"ם כתוהו וכלא נחשבו, דכל מה שפסק כן הוא מיראה אותם, ונלענ"ד אחר המחי"ר יש לפקפק אם פה קדוש של הגאון הרוגצ'ובי יאמר כן, דהא אם היה הדבר כן שחשש הרמב"ם לפסוק עליהם דין עכו"ם, הוי ליה למישתק ולא לכתוב להדיא כמה פעמים שאינם בכלל עוע"ז, ותקלה רבתא יוצאת מזה, ועוד דהטור והשו"ע שלא היו כפופים לישמעאלים לא סבירא ליה הכי בדברי הרמב"ם דפסקו כן להלכה, ואף הרשב"א בתורת הבית וכל המפרשים הנזכרים לעיל לא סב"ל הכי. ועוד דאף הר"ן בסנהדרין (שם), שכתב שיש להם דין עוע"ז לא כתב מטעמי דמשתחוים לירח אלא שמשתחוים למוחמד, וביחוד שלא ראיתי שכתב כן הגאון ר' יוסף רוזין זצ"ל בספריו, ואין מוכיחין ממעשיות להלכה ופשוט."
Translation: And as for the second who wrote to undercut and to say that the Ishmaelites have a status of idolaters is in what I saw in the book Harogotchovi (pg. 157), and this is what is written there: Once there was a discussion with the Gaon (R' Yosef Ruzhin, author of the Tzofnat Pa'ane'ach) about the Muslims, and one of the people there mentioned the law of the Rambam (there), that the Christians are idolaters but the Muslims are not so...replied the Gaon and said that in his view, today also the Muslims are considered idolaters, for their symbol is the crescent moon and they worship the moon. And this is because the majority of them live in the deserts where water is greatly needed and the rise and fall of the water is determined by the moon, and the gaon continued- the Rambam didn't rule that they were idolaters because he lived in the Islamic lands, and such a ruling was dangerous and pikuach nefesh, and l'ma'aseh, one should be moderate and follow the view that says that indeed, they aren't idolaters. Until here his words. And whoever sees this will see that according to his view, all of the teachings of the Rambam are like Tohu and meaningless, for all that he ruled was out of fear from them [the Muslims], and it seems to me that after asking for great forgiveness, one should doubt whether the holy mouth of the Gaon the Rogotchovi even said so, for if this was because the Rambam was afraid of ruling that they had a status of idolaters, he should have remained silent and not write clearly several times that they aren't included amongst idolaters, and a great fault has come from this, and moreover, the Tur and the Shulchan Aruch who weren't subject to the Ishmaelites didn't opine so in the teachings of the Rambam for they ruled [like the Rambam] in halacha, and even the Rashba in Torat Habayit and all the commentators mentioned above didn't opine so. And moreover, even the Ran in Sanhedrin (there), who wrote that they have a status of idolaters didn't write so from the reason that they bowed to the moon but because they bow to Muhammad, and especially because I didn't see that the Gaon R' Yosef Ruzhin zt"l wrote so in his books, and one doesn't prove anything from fables as halacha, and this is simple."
Update: Having checked Borochov's book and finding that it merely says "מפי השמועה", it seems that Rabbi Kachlon's explanation still holds...