初めまして、行政書士のSUPERTONTONでございます。それは大変お悩みのことと思います。ご心痛お察し申し上げます。お話しから分かる範囲でご回答致します。
まず、学会誌と言っても、自費出版と言うことですよね。
出版社に独自のルートがあると言っても、外部に売れたことはあるのでしょうか。全体で1回120部程度ですよね。
基本的に、赤字分を補填して、どうやって利益を得るかです。利益が出ない商売をするわけがありません。
また、継続をしていれば、出版社は、現在も何事もなく続けて、補填していたと言うことに成ります。それこそおかしな話です。
そもそも、契約書に従うことになります。そう言うものが無ければ、内容証明で支払を根拠が無いと言うことで、拒否されると良いでしょう。
内容証明の作成は民事法務専門の行政書士や弁護士の先生にご依頼されると相手に本気度が伝わりなめられずに済むでしょう。
応じない場合は、民事調停を申し立てると主張します。頑張って下さい。