אושיק לוי הכיר את אפרים קישון כששירת בלהקת פיקוד מרכז, שם כתב אפרים קישון מערכונים ללהקה. אושיק סיפר שהוא תמיד זכה לגלם את תפקיד "השוטר המרוקאי". לאחר שהשתחרר אושיק מהלהקה, הזמין אותו אפרים קישון לשחק בסרטיו לצד חיים טופול, גילה אלמגור והגששים. בסרט השוטר אזולאי לא מצא אפרים תפקיד לאושיק (למרות ששיחק במערכוני להקת פיקוד מרכז את השוטר המרוקאי), אבל עלה בדעתו רעיון מבריק.
את "בלדה לשוטר", שיר הנושא של הסרט, כתב אהוד מנור על מנגינה מוכנה מראש של המלחינה נורית הירש.
סיפר אהוד מנור על כתיבת השיר: "קראתי את התסריט, אפרים קישון נתן לי אותו והוא גם הסביר לי מה הוא רוצה. ואז בעצם מה שעזר לי הייתה דמותו של שייקה אופיר. משהו בעיניים העצובות, בתמונה הזאת כשהוא מצדיע בעיניים דומעות, כשהוא עומד לפרוש מהמשטרה. לשייקה אופיר היה את הדבר הזה שהיה בצ'רלי צ'פלין, שהוא גם נורא מצחיק וגם (מביע) עצב תהומי, בלתי נתפס כמעט ...בפתטיות של הדמות, בנאיביות שלה".