初心者の身ですが失礼します。
私もよくペンツールやパスの変形でつまづくので書き込ませていただきます。
①ペンツールを選択する際「ロトベジェ（RotoBezier）」にチェックが入っていないでしょうか？
「直角が丸みを帯びて、、」とありましたのでもしかしたらと思いました。
＊ロトベジェで描いたパスは通常の「選択ツール」に持ち替えてパス上で右クリック
→「マスクとシェイプパス」→「ロトベジェ」のチェックを外すと通常のマスクになるはずです。
（見た目の形状・丸みはそのままです）
＊ペンツール「頂点の切り替えツール（Convert Vertex Tool）」で
各アンカーポイント（Aeでは頂点？）をクリックするとハンドルが表示されるはずですがいかがでしょう？
（タイムラインパネルでマスクを選択していると全ての頂点が切り替わってしまいます）
②ペンツールを使用する際にクリックしたままドラッグすると即ハンドルが表示されますが
そうしてもハンドルは見えないのでしょうか？
＊万年初心者なのでこのフォーラムで色々と質問させて頂いてますが
問題が起きたときのスクショを貼り付けておくと上級者さんからの返信が早い気がします。
もしお時間ありましたら公開出来る範囲で貼り付けてみて下さい。
プロジェクトパネル・コンポジションパネル・タイムラインパネルを見せれば
上級者さんから的確なアドバイスをもらえると思います。
長文失礼しました。