なるほど１人だけ不幸になるというのは基本的人権を侵されるレベルの不幸なんですね
可哀想なことをしちゃいましたね
では基本的人権を侵さないと言う制約条件を加えるのはどうでしょうか

この場合の善とは最大多数の最大幸福ということですね

どれだけ公平に決めたとしても誰か人間が決めればどうしても「忖度があった」だの「私腹を肥やしてる」だの不満がでるのではないでしょうか
それならばいっそのこと全て人工知能に任せた方が客観性もあって納得感高くなるのではないかと思いますがどうですかね