Родители Чайефски — русские евреи. В 1907 году его отец покинул Москву и основал в Бронксе компанию по торговле молочными продуктами. Именно отец привил любовь Сидни к театру.
В конце Второй мировой войны вступил в ряды Армии США, где получил прозвище «Пэдди». Близ Ахена (Германия), был ранен взрывом мины и по окончании операции награждён медалью «Пурпурное сердце».