سلمان در خانواده‌ای زرتشتی و صاحب نفوذ، در روستای “جی” از توابع اصفهان به دنیا آمد. پدرش نام او را “روزبه” گذاشت.

پدرش روحانی زرتشتی، کدخدای روستای “جی” و یکی از ثروتمندان آن ناحیه بود. او آتش ‌پرستی متعصب و سرسخت بود، و چون آتشکده داشت، مردم آن ناحیه برای پرستش آتش نزد او می ‌رفتند؛ به همین خاطر نزد مردم از منزلت سیاسی مذهبی خاصی برخوردار بود.

سلمان وقتی به شام رسید، سراغ داناترین و متدین ‌ترین مرد مسیحی را گرفت، مردم او را به سمت رهبر مذهبی خود در کلیسا راهنمایی کردند.

او به کلیسا رفت و به رهبر مذهبی آن قوم گفت: من دوست دارم به دین شما روی بیاورم و در خدمت شما باشم تا اصول و احکام این دین را از شما یاد بگیرم.

او درخواست سلمان را قبول کرد و بدین صورت او یکی از خدمتکاران و شاگردان آن رهبر مذهبی شد.

کم‌ کم سلمان پی برد که آن کشیش، مردی خیانتکار و بد کردار است؛ زیرا او مردم را به صدقه دادن تشویق می‌ کرد ولی صدقاتی را که از مردم برای فقرا جمع می ‌کرد، پس ‌انداز می کرد و به مستمندان نمی ‌رساند؛ در واقع آنچه به مردم می‌ گفت، شعاری بیش نبود.

به همین خاطر سلمان از دست او بسیار خشمگین بود، بعد از مدتی که کشیش ریاکار از دنیا رفت و سلمان مردم را از عمل زشت او مطلع ساختند، مردم به جای او دانشمند دیگری را برگزیدند که زاهد و عبادتکار بود و همیشه به کمک مستمندان و ناتوانان می ‌شتافت.

سلمان او را بسیار دوست ‌داشت و با اخلاص کامل در خدمت او ماند، تا وقتی که زمان مرگ او فرا رسید؛ قبل از این که بمیرد، سلمان بر سر بالین او رفت و خواست که او را به دانشمند شایسته ‌ای همانند خودش راهنمایی کند؛ او هم سلمان را به عابد دانشمندی راهنمایی کرد و به او گفت: که آن شخص انجیلی صحیح و بدون تحریف در اختیار دارد و می ‌تواند تو را به حقیقت برساند.