2019年5月3日から122日前の日付を取得します。
$dt1に2019年5月3日を代入します。この時VBAで使われるような#5/3/2019#のような日付リテラルで囲んだりシングルクォーテーション、ダブルクォーテーションで囲まなくてよいようです。
念のためデータの型(Type)を強制するため[DateTime]をつけています
関数としては、ある日付の何日か前はAddDaysに▲の日数を入れて求めます。
[datetime]$dt1 = get-date -date 2019/5/3 ;[datetime]$dt2= $dt1.AddDays( -122);Write-Host $dt2