كانت بداية معرفة اليابانيين بالإسلام من خلال جيرانهم الصينيين والروس وعندما قامت الحرب الروسية اليابانية في بداية القرن الماضي حدث اتصال بين اليابانيين والإسلام من خلال شخصيات روسية مسلمة تنتمي الى قومية التتار تعرضت للطرد من جانب السلطات الروسية بسبب نشاطها الإسلامي.
وكان من بينهم عبدالرشيد ابراهيم الداعية الإسلامي الذي أسلم على يديه عدد كبير من اليابانيين، وكان الأزهري علي أحمد الجرجاوي هو اول عربي زار اليابان بنية الدعوة الى الله ونشر الإسلام وذلك في عام 1906.
سمع الجرجاوي في ذلك الوقت عن مؤتمر للأديان سيعقد في طوكيو فتوجه الى هناك حيث عاش الى عام 1961 وأسس جمعية دعوية بالتعاون مع أحد اليابانيين وألف كتاب الرحلة اليابانية الذي تحدث فيه عن رحلته الى اليابان.
وسافر الجرجاوي ـ الذي كان يعمل صحافيا ـ الى اليابان بمبادرة ذاتية بعد ان فشل في إقناع الأزهر بالمشاركة بوفد رسمي في المؤتمر الذي هدفت اليابان من وراء اقامته الى التعرف على الأديان المختلفة بعد ان حققت الانتصار في الحرب ضد روسيا، باع الجرجاوي خمسة أفدنة في قريته أم القرعان التابعة لمركز جرجا لكي يغطي نفقات رحلته التي كتب عنها كتابا بعنوان «الرحلة اليابانية».
وحسبما ذكر في كتابه فإن 12 ألف ياباني أسلموا على يديه في مقر الجمعية التي أسسها للتعريف بالإسلام وبالتعاون مع عالمين مسلمين هما الحاج مخلص محمود الروسي وسليمان الصيني.
يبلغ عدد المسلمين في اليابان حاليا أكثر من 100 ألف ينتشرون في مختلف الأرجاء وقد أنشئ مركز إسلامي في اليابان عام 1965 يقوم بمهمة تعريف اليابانيين بالدين الإسلامي ويرعى شؤون المسلمين.
تحرص المساجد في اليابان على فتح أبوابها للمسلمين وغير المسلمين في شهر رمضان حيث يتم تنظيم مأدبة الإفطار الجماعي.
ويصلي المسلمون صلاة التراويح ويأتي قراء القرآن من مختلف الدول العربية والاسلامية كما يتم جمع الزكاة لانفاقها في وجوه الخير وتبدأ الدعوة لصلاة العيد ابتداء من العشر الأواخر من رمضان وبعد ان كانت مقصورة على المساجد أصبحت تقام في الحدائق العامة والمنتزهات والملاعب الرياضية.