pythonでyield先で起きた例外をyield元で取り扱いたい

「pythonでyield先で起きた例外をyield元で取り扱いたい」というようなことを言っていた。いろいろ調べ直してまとめてみたらgenerator周りの復習になったのでそのメモ。 課題 yeild先で起きた例外をyield元で取り扱いたい?とはなにか? def _use(i): if i %…

pythonでbreakpointなしに例外の発生元で自動的にpdbする方法のメモ

デバッガーを使いたいがコードにbreakpoint を仕込むのが面倒な時がある。 例 例えば以下のようなコードがあるとして、 foo > bar > boo と辿っていた中でのbooでpdbを実行して欲しい。 def foo(): print("foo") bar() print("foo") def bar(): print("bar")…

goのflagで@<filename>と言う形式ならファイルの中身を利用するValueを作ってみる

ちょっとだけメモ。 最近は、標準ライブラリのflagだけで生活できるような気がしている。 まぁそれはおいておいて、例えば、curlなどで使われている@<filename>と言う表記で、ファイルの中身を取り出すvalueが欲しくなった。その実装のメモ。 flag.Value flagパッケー</filename>…

processを立ち上げまくる機会を避けるための簡単なRPCのメモ

時折、特定の前処理の一部として、1つのファイルを受け取る1つのスクリプトが何個も連鎖することがある。このようなときに都度都度processが立ち上がると、ほとんどの時間がimport timeで辛いということが起きる事がある。 以前書いた記事の中では、この辺…

windowsでsymlinkを含んだリポジトリを扱う方法のまとめ

まず、windows環境でsymlinkが使われているようなリポジトリを、何も設定せずにcloneしてくると、symlinkが死ぬ。これをどうにかする必要があった。いろいろ試行錯誤した結果のまとめのメモ。 要約 端的にまとめるなら以下ができれば良い。 .gitconfigで cor…

eshellを使うようにしたらwindows環境でのEmacsもマシにはなった

諸事情によりwindowsの環境で作業しなければいけないことになった。windowsでの開発自体はWSLなどで便利になったものの直接windows環境で作業したい事がある。困っていたのは特にシェルの環境だった。 困りどころ M-x shellで動くシェルはコマンドプロンプト…

awscliのコマンドの補完の遅延にイラッとしたので速くすることを考えてみた

はじめに awsのCLIとしてawscliがある。version 2を使ってくれと書かれていたりはするものの、この記事はversion 1。まぁそこまで大差はないと思う。 補完を有効にしなかった場合には、どのコマンドを使えば良いかの確認に aws help を使い、どのサブコマン…

functional optionsの整理。interfaceにすることの意味について。

goのfunctional optionsに対する自分の理解と、いわゆるoption部分をinterfaceにしておくことの意味について考えてみる。 functional optionsについて まずはfunctional optionsについてのおさらい。functional optionsはoptionalな引数をいい感じに受け取る…

goで作られた既存のweb APIに後付けでopenAPI docを付けたかった

github.com 最近、reflect-openapiというパッケージを作っています。まだまだ荒削りですがある程度動く感じにはなったので紹介します。 goで作られた既存のweb APIに対してopenAPI docが見れるようにしたい、というの作りはじめた動機です。 なんで新しく作…

いろいろなビルド用の分岐にタグを使ってみる(例えばlambda用のビルド)

いい感じにできないか考えたりしていた。アイデア段階で途中だけど途中経過をメモ。 TODOアプリを模したコードがあったとして、以下の様な操作が提供されているとする。 type TodoApp interface { List() ([]Todo, error) Add(todo Todo) (Todo, error) } こ…

goでSQLのquery logを出力させるのにsimukti/sqldb-loggerが便利かもしれない

github.com goでRDBMSを利用したコードを書いているときに、実際に発行されたqueryを知りたいことがある。特定のORMやquery builderでは対応していて何らかの設定を追加すると見えるものがあるが、そもそもquery logの出力に対応しているかどうかを判別する…

httptest.ResponseRecorderを使っていてもRoundTripperを使いたい

時折、テスト中にRoundTripper (client.Transport) を挟んで良い結果を得ようと企む事がある。コレに対応可能なのがhttptest.Serverを利用した通信のときだけだと思っていたけれど。一手間加えるとRecorderを利用したテストでも対応可能な事に気づいたのでメ…

巷で見かけるClean Architectureのコード例に対するモヤモヤについて

たまにはふわっとしたことをふわっと書いてみるかということで書いてみた。 はじめに Clean Architectureについての記事をたまに見かけることがある。多くは自分の馴染んだ言語でこのように実装してみましたと言う例なのだけれど、多くの場合にモヤモヤを抱…

web APIのテスト時に500のときにはstack traceを表示したい

通常、status codeが500のresponseにstack traceなどが含まれているとセキュリティ的にはよろしくない。そんなわけで500のresponseは簡素な表現になる。一方でテストのときなどに、簡素な表現だけが表示された場合には、stack traceを含めたい。含めない場合…

go-chi/chiでJSON logを手軽に使う方法

go-chiは、あまり素のnet/httpからかけ離れたラッピングを行っては居ないので、goでのweb APIの取扱を考えたりするのに便利なのですが、本番運用のことを考えるとJSON logが欲しくなったりしますね。 go-chiのloggerミドルウェアの出力は綺麗なのですが、こ…

go-chi/chiの動作確認時に最初に書くコード

個人的には、細々としたコードの動作確認のために小さな1ファイルのコードを書くということを常々やっている。頭があまり良い方ではないので、ドキュメントを読んだだけでは実際の動作を正確に理解することができない。加えて微妙な差異を追加しての比較検討…

fmt.Errorf()とerrorsのセットとgolang.org/x/xerrorsは異なる

前回の記事でfmt.Errorf()がpkg/errors.Wrap()を殺すという話を書いた。これはもう少し雑に言えば、エラー時に位置情報を記録したいということだった。 そしてこれについて以下の様な発言をしつつ調べていたところ、かつてのpolyfilだと思っていたgolang.org…

fmt.Errorf(" : %w", ...)は、pkg/errors.Wrap()を殺す

go1.13以降、github.com/pkg/errorsから、標準ライブラリのerrorsとfmtを使う形への乗り換えが行われていたり行われていなかったりする1。 乗り換えの方法についてはerrors.Is()やerrors.As()の使い分けに終止している事が多い気がする。それ以外の変更点で…

goのerrors.As()でpanicしちゃう話

ドキュメントに書いてあることだけど、渡し方をミスるとerrors.As()はpanicしてしまう。 As panics if target is not a non-nil pointer to either a type that implements error, or to any interface type. errors.As()の使い方 その前に errors.As()の使…

go testのtest.testlogfileフラグが時々便利

test.testlogfileを付けてテストを実行すると、テスト中の以下が分かる。 os.Stat()したファイル os.Open()したファイル os.Getenvした環境変数 これは、例えば、net/http.FileSystemが使われた様なテストなどで苦しめられたときに便利に働くことがある。 例…

goでdeprecatedな関数の利用に対してwarningを出すlintの使い方のメモ

github.com 適切にDeprecated:という修飾を含んだコメントを追加すると、その関数を利用した際に、以下の様なwarning messageが出るようになる1。 main.go:8:2: greeting.Hello is deprecated: use HelloWithContext() (SA1019) これの使い方のメモ。 Deprec…

go-vcrを使ったSymmetric API Testingのメモ

github.com go-vcrを使おうとしてみたのでそのメモ。 Synmetric API Testing? Symmetric API Testingという言葉は、この記事が使っている言葉のよう。 https://blog.gopheracademy.com/advent-2015/symmetric-api-testing-in-go/ 単純に言えば、通常は何らか…

goでreflectを使ってunexported fieldの値を見る

テストなどのhelperを作るときに、特定のstructのunexported fieldにアクセスしたくなることがある。 その方法のメモ(あとでまじめに書くかもしれない書かないかもしれない)。 with exported field その前にreflect経由でのアクセスで考えてみる。以下の様…

PEP593のAnnotatedでwrapされた型ヒントからmetadataを取り出す

Annotated PEP593で型ヒントにmetadataを付けられる様になった。 例えば、関数の型ヒントを見てCLIのコマンドを生成するようなフレームワークがあったとして、コマンドラインオプションのヘルプメッセージ用の文字列も保持したい。以下のコード上での --name…

makeの:=と=を使い分けると便利

正直な話をすると今まで常に := だけを使っていて、= を使うことはあまりなかった。 使い分けると便利な状況が分かってきたのでここにメモしておく。 要約 ちょっとした実験用のタスクランナーとして使っていたMakefileの書き方が変わる1。 今まではこう書い…

pythonのslackclientで非同期タスクを実行したらValueErrorになった話

最近「ちょっとslack botでも書くか」と思う機会があった。そのときに色々思うことがあったのでメモ。 slack botを書く機会があった。どのライブラリを使うのが良い? 現状ではslack自身が出しているライブラリをそのまま使うのが良いのではないかと思う。 g…

スプレッドシートを設定ファイルとして使うライブラリを作ってみた

github.com slackやdiscordなどのbotを作るときに、ファイルを触れない人にも設定をいじってもらおうとしたら、スプレッドシートあたりが無難なのかなと思いました。そんなわけでスプレッドシートを設定ファイルとして使うライブラリを作ってみました。 イン…

pythonの型定義を使ってOpenAPI docを出力してみる。

今回は以前のprotobufの出力を試した記事のOpenAPI doc版。 pythonの型定義を使ってprotobufを出力してみる。 近年のOpenAPIの状況 近年では、openAPIとの付き合い方もだいぶ落ち着いてきて、夢を見た機能を実装し切るというような気持ちのところは減ってき…

goで手軽にencoding/json感覚でdotenvと環境変数を使う方法のメモ

以下2つのライブラリを使うと便利 github.com github.com joho/godotenvは、いわゆる.envファイルをいい感じに読み込んでくれるもの。 caarlos0/envは、encoding/json感覚で書いたstructのタグからいい感じに読み込んでくれるもの。 利用例 例えば、以下の…

コード生成中に、裏側でサービスを立ち上げて、通信してあげればN+1を防げる事に気づいた

github.com コード生成でのN+1? 以前に、コード生成でのN+1問題の発生というような記事を書いた。 コード生成におけるN+1問題とbulk actionとしてのegoist。あるいはMakefileについて この記事では、bulk action的な実行を解として説明をしていた。元々の問…